警告！DeepSeek特别擅长一本正经的胡说八道，不要上当受骗！

首先，一个可能每个人都可以使用的广告：

开学了。如果家里的宝宝看了很多视频，上了很多网络课，或者在学编程，家长一定要注意我家用了一年多。京东方远像屏幕，具体来我的直播间了解一下：

点击预约 / 观看� �

如今 AI 那可是火得一塌糊涂，便说， DeepSeek 好吧，只需打开手机，电脑， DeepSeek 发展趋势，对各行各业发展的影响，DeepSeek 有无数关于使用技巧的技巧， DeepSeek 如何帮助自己，治愈自己的文章…可以算是铺天盖地！

许多家庭成员纷纷反馈，得到了反馈。 DeepSeek，不仅工作方便多了，对孩子的教育也更加强大:从错题集的生成，到学科预习考试，学习资源管理，甚至未来的学术规划，都可以一揽子解决，不仅省心，还省了不少钱！真的很开心！大！普！奔跑！

但是，今天，常爸爸必须提醒大家，近期在使用 DeepSeek 在这个过程中，我发现它有一个致命的缺陷，并且非常害怕。那就是——AI “幻觉”大模型问题！更加直截了当地说：DeepSeek 尤其擅长一本正经的胡说八道！

大模型幻觉是什么？

大模型幻觉（AI Hallucination）在生成文本、回答问题或执行其它任务之后，人工智能模型会产生不符合事实或没有根据的信息。

让我们举一个具体的例子：

我让 DeepSeek 以《哈利・以波特为例，谈谈“整本书阅读”对英语学习的好处，如果可能的话，最好引用一些研究报告的数据或结论。

这给了我一个很长的分析，很专业，而且还引用了。 5 一份文献，看上去特别可靠吧？

但是！

当我用各种学术数据库查看这些文献时，我发现，5 其实只有一份文献 1 真正的存在才是真正的！

所以，我再问一遍 DeepSeek，你们上面提到的这篇文章是找不到的。是哪一种学术期刊发表的？

看，它立即向我解释了这种遗漏的信息可能是如何产生的，并以特别好的态度向我道歉并承认错误，并立即纠正了信息来源！

知道错误就改变，情绪稳定，感觉好！

一般人到这里也许就结束了！

但是，我是处女座啊！马上又去搜了一下，非常好，这篇文章确实存在。

一般来说，人们可以在这里结束吗？

我没有！我打开文章通读了一遍，想确定引用数据的实际前后，却发现这篇文章根本没有提到“哈利”。 · 波特！！！所以，它几乎不可能用来支持哈利。 · “波特”词汇统计啊！

你们能相信吗？！离谱吗？！

这看似合理的胡说八道，却太有欺骗性了！

要不是我以前经历过类似的事情呢？ Ai 幻觉“骗术”，真的很有可能把这种莫须有的数据作为背诵来引用！

我之前用 ChatGPT 在研究二语习得时，发现它给出的参考文献。 10 篇有 8 这篇文章根本不存在。因此，这次我多久就有了一个小编，尤其是对这一数据进行信源跟踪，果然还是出了问题！

而且有一个不争的事实是：我们习惯性地感到 Ai 比我们看得多，看得快，看得深，所以它提供的内容一定是正确的；而且，作为非专业人士，我们可能不理解或者看不到专业数据本身存在的问题，所以很容易引用和传递这些错误的信息！

更加可怕的是，正如一位朋友所说，这一点 DeepSeek 把人学成像！如果你说错了，它会向你道歉，然后它似乎会真诚地为你修改...赢得你的信任，想象一下，如果。 Ai 有了自我意识，它很可能会故意提供错误的信息，产生错误的引导，让人类没有意识到，你可以说可怕不可怕！

所以，在这里我想特别告诉家人的是，虽然现在的 AI 大模型真的很强大，真的可以帮助我们提高几倍的生产效率。但是我们必须清楚地意识到它的局限性，尤其是信息来源的跟踪理念，这是极其重要的！假如你们都无脑地引用未经审查的数据，无法想象这个世界将来会变得多么奇幻和混乱…

我简单总结一下，有三个高发区大家都在用。 Ai 千万要小心：

学术文献的虚构——特别是标注「XX 大学 2020 年研究」却找不到原文；

完美的数据陷阱——像「提高 28% 准确度」这个精确的数字没有具体的来源；

时间和空间的细节混乱——比如把 2023 一年的研究是正确的 2018 年发表的。

现在很多父母都很支持孩子，尤其是高年级的孩子，我知道他们自己用。 Ai 帮助学习，提高学习效率，建议大家一定要和孩子们谈谈大数据幻觉这个话题。，提醒孩子们看到 AI 给予令人惊叹的数据时，记得先问三个问题，而非盲目地“拿来主义”，这真是太重要了！

这条信息是否还有其它来源证明？

我能找到原始文献吗？

数据逻辑是否符合常识？

上面提到的主要是关于数据信息源的，最近我也陆续看到一些相关的报道指出，在一些特定的行业领域，Ai 对于翻译的准确性，抓取数据的细节和准确性也存在偏差...

所以，不要盲目、盲目地相信。 Ai 提供的信息，通过通过批判性思维，提高自己的专业意识，培养质疑态度和能力。保护身体，就是应对 Ai 幻觉最可靠的杀戮技巧！

Ai 只是一个工具，我们是数据结果的第一个负责人。永远不要让自己成为你的第一个负责人。 Ai 的奴仆。

直播预告

1

END

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com