当AI释放“信息烟雾弹”——

超七成受访大学生希望提升研发技术减少“AI幻觉”

“AI在文献检索上的效率确实无可替代，能快速聚合相关研究，但当AI撰写新闻稿时，偶尔会对信息进行错误拼接，甚至虚构信息来填补报道空白。”作为新闻传播相关专业学生，就读于中国海洋大学的瞿锐捷对AI的使用始终保持警惕，这种警惕源于对新闻真实原则的坚守：“新闻的生命在于真实，而AI生成的内容往往游走在‘看似合理’与‘事实错误’的灰色地带，稍不注意就会触碰新闻失实的红线。”

所谓“AI幻觉”，指的是AI会生成看似合理实际却错误的信息，常见的表现是编造一些不存在的事实或细节。近期，中国青年报·中青校媒面向全国各地的大学生针对“AI幻觉”话题开展问卷调查，共回收有效问卷1461份。调查显示，97.%受访大学遇到过AI提供错误或虚假信息的情况。

AI给出的就是“完美答案”？

来自华南农业大学历史学专业的戴瑞对AI并不陌生。戴瑞第一次领教AI幻觉，是在写论文找文献时。“把主题‘喂’给AI，它会编出不存在的学者、论文，还像模像样的，但去知网一搜，根本查不到相关信息。”如果不加核查，那些虚构的作者和论文都能被老师一眼识破。

除了编造文献，AI还会犯“张冠李戴”的错。戴瑞曾让AI梳理历史事件，结果年份和史实对不上，“比如把A年份的事件说成在B年份发生，或者把甲做的事说成乙做的”。这些错误让她不得不返工，“本以为大功告成，结果前面全是虚假信息，只能推倒重来，重新核对史料”。

调查显示，在受访大学生使用AI时，57.63%受访者遇到过数据或案例引用错误，55.03%受访者面临过学术参考文献推荐错误，50.86%受访者遇到过AI给出的常识性知识错误。

在上海一所高校读博士的申杰也经常遇到AI反馈虚假文献的情况。AI会给出一些文献的链接，但点进去后是“404”，也有时AI不提供来源链接，申杰按照文献名到学术论文网站上检索后，发现“查无此文”。“当我给AI工具反馈这篇文章不存在时，它还会‘嘴硬’，说这是因为我没有认真检索，还会给出一个假的论文来源链接。”当申杰拿出“实锤”——检索截图，AI工具则一言不发，或者开始道歉。

即将就读于复旦大学马克思主义哲学专业的班世钊，回想起去年决定研究生报考方向时咨询AI的情景，觉得AI给出的建议并不总是贴合实际。

“虽然AI对于标准明晰的指标分析非常理性，但是一旦涉及更加复杂的情感决策时，它就容易出现偏离实际甚至是胡编乱造的情况。AI为了说服我选择一位导师，编造出了这位老师从未公开发表过的言论。”

在一次简历投递前，就读于华东师范大学播音与主持艺术专业的高育格请AI润色她的简历。“AI为了‘佐证’我的能力，编造出了这个项目的商业交易总额、场观人次等数据。”作为活动的亲历者，她感到啼笑皆非。

谈及AI幻觉的社会影响，瞿锐捷很认可北京大学新闻与传播学院教授胡泳关于“AI内容生态”的观点：“当社交媒体90%的内容由AI生成，且公众缺乏甄别能力时，就会陷入李普曼所说的‘拟态环境’困境——人们认知的世界不再是真实世界，而是AI建构的虚假镜像。”瞿锐捷觉得更值得警惕的是AI的认知偏向，“比如我曾问过不同国家的AI模型什么是‘世界最伟大的四个字’，它们会给出不同答案，这本质上是算法背后的价值预设在起作用，若被当作‘客观事实’传播，会潜移默化地影响公众。”

谈及AI幻觉的影响，戴瑞认为对学术冲击很大：“历史研究靠史实说话，AI编造的虚假史实完全不符合规范。要是连年代、事件都错了，基本史实都保证不了。”

调查显示，导致作业/论文/工作出现错误(57.70%)、浪费大量时间验证信息(52.29%)、误导决策或研究方向(44.35%)都是受访大学生认为AI幻觉带来的不良影响。

“写专业课作业、搜寻史料时不用AI，得自己翻书查文献；但写诸如发言稿、总结纲要时，使用能节省时间。”戴瑞强调，AI带来的是灵感还是抄袭，全在一念之间，“别让自己的思维变懒惰、变僵化。”

理解AI规则，拨开信息迷雾

申杰在一则新闻上看到，一位用户向AI工具提问，某座城市的立交桥为什么采用某种设计方式。然而，这个问题本身就有问题，该城市的立交桥设计并非用户描述的那样，但AI工具没有指出问题的谬误，而是迎合提问者，编出一套理由来回应。“有些AI模型的底层逻辑，就是要优先回答用户的问题，而不是先判断用户提问是否符合实情。还有一些AI工具不联网，就更容易给出偏离事实的答案。”

班世钊观察到，当AI无法调用已有资源解答他的困惑时，它往往会搜寻甚至编造一些看似和他情形相近的例子试图说服他。有时AI回复“那么我可以从以下具体案例入手”“应该结合一些具体案例”，事实上这些案例往往真假参半。

AI的这一特性引起了班世钊的兴趣。他比较了几款热门AI软件的解答思路，感受到“AI幻觉”的产生或许是源自它们极强的“服务意识”：它们一直试图为用户提供逻辑闭环、有头有尾的“满分”解答，即便是面对超出它分析能力的提问，它也会“冒险”作答。

在新闻实操中，瞿锐捷多次遭遇AI的“幻觉陷阱”。例如在专业课上，老师要求模拟报道珠海某新闻事件时，由于官方信源有限，AI竟自行编撰“内部文件”和“匿名访谈”来补充细节。“这些内容逻辑自洽，甚至标注了‘据知情人士透露’，但溯源后我发现这些全是虚构的——这其实是AI在训练数据不足时，通过算法预测进行的‘信息补全’，但这却违背了新闻采集中‘信源可追溯’的基本要求。”

当怀疑AI提供的信息存在问题时，65.43%受访者会使用其他搜索渠道交叉验证，60.37%受访者会查阅权威书籍或者文献，45.79%受访者会咨询老师或者专业人士，42.09%受访者会通过实践操作验证。

如今，核实信息已经成为高育格使用AI时必不可少的步骤。她有时觉得自己不像是发出指令的用户，反而像是AI的检测员。虽然大部分错误她能够一眼看出，但是面对陌生领域的知识时，她也会感到力不从心，而一些“七分真三分假”的文本更是大大增加了她检验的时间成本。“每次大费周章核实信息之后，我都会产生‘还不如自己写’的心情。”

申杰发现，一些AI工具在给出涉及健康、安全领域的答案时，会有特别提示。他最近帮朋友询问了耳鸣和手指发麻可能是什么问题，AI工具回答的第一句话，就是“重要声明：我是人工智能，无法提供医疗建议。以下信息仅供参考……强烈建议尽快咨询医生”，“尽快咨询医生”还被加粗显示。“这在一定程度上能让用户警惕，AI的话不能全信。”

善用而不轻信，用理性思维校准“AI滤镜”

“会不会是我们对于AI的期待太高了？”对于班世钊而言，“AI幻觉”的存在使他重新思考自己与AI的关系。他一度认为，AI所呈现出的超强检索、整合与输出能力能够帮助他抵达思考的最后一站；而在一次次复杂情境之中，他意识到AI终究难以深入理解个体的真实处境，AI可以成为他的有力助手，但不该由它们按下决策键。

调查发现，12.66%受访者对AI幻觉表示非常担忧，48.67%受访者表示比较担忧并在使用时格外谨慎，32.03%受访者认为这是技术发展的正常现象，6.64%受访者对AI幻觉并不担忧。

为了避免被AI误导，戴瑞会用知网或专业数据库交叉验证。她尽量不去依赖求助老师，主要靠自己查证，“老师大多反对用AI找史料，认为这会丢了历史学科的严谨性，但支持用AI做总结或梳理思路”。

在瞿锐捷看来，在AI时代必须强化AI素养：“这不仅是辨别信息真伪，更要理解AI生成内容的逻辑——它本质上是对既有数据的重组，而非原创。就像写新闻时，AI可以帮你提炼政策背景的大纲，但采访细节、信源核实必须亲力亲为。”他建议学校在课程体系中融入“AI内容甄别”模块：“比如通过案例教学，分析AI如何编造信源，或开展模拟报道实训，要求用AI辅助但必须标注每处信息的溯源过程，以此强化‘求证意识’。”

要判断AI给出的信息是真是假，用户需要哪些层面的能力？

申杰专门就此问题询问了AI，得到的答案是需要知识储备、批判性思维和主动查证的能力，以及对AI工作原理的理解和使用AI工具的实践经验。其中后两项是可以通过特定的培养和训练来实现的，正因如此，他觉得提升AI素养、弥合数字鸿沟的科普课程是必要的。

“代际反哺也很重要，年轻人也可以给自己的长辈多做普及。”申杰觉得如果把AI当作“大脑”来使用，可能比较容易被AI幻觉影响，“但如果仍保有自己的思考，只把AI当作辅助消化的‘肠胃’，能更好地排除AI生成内容的不良影响”。

调查发现，74.26%受访者希望提升研发技术、优化算法模型、严格数据治理，63.79%受访者希望完善人工审核干预与用户反馈机制，58.25%受访者希望开发实时纠错提示功能，50.31%受访者期待AI向用户明确标注信息可信度，39.01%受访者希望制定行业标准、加强监管力度与从业人员教育培训。

瞿锐捷最期待AI工具“信源透明度”能够提高：“就像学术论文必须标注参考文献，AI生成的每一条事实性信息都应附上溯源链接，这可以降低用户的核实成本。”

在高育格看来，AI对用户足够“坦诚”或许可以成为研发团队的下一步目标。如果信息并非源自权威期刊或是官方报道，那么AI应当充分、清晰地提示这一点。“我所需要的不是一个完美的外壳，而是有扎实基础的答卷。”

(应受访者要求，申杰为化名)

实习生 贾明皓 何烨 中青报·中青网记者 王军利 毕若旭 来源：中国青年报

2025年07月14日 06版

（图片来源网络侵删）