超七成受访大学生希望提升研发技术减少“AI幻觉”|中文字幕AV一区二区三区
当AI释放“信息烟雾弹”——
超七成受访大学生希望提升研发技术减少“AI幻觉”
“AI在文献检索上的效率确实无可替代,能快速聚合相关研究,但当AI撰写新闻稿时,偶尔会对信息进行错误拼接,甚至虚构信息来填补报道空白。”作为新闻传播相关专业学生,就读于中国海洋大学的瞿锐捷对AI的使用始终保持警惕,这种警惕源于对新闻真实原则的坚守:“新闻的生命在于真实,而AI生成的内容往往游走在‘看似合理’与‘事实错误’的灰色地带,稍不注意就会触碰新闻失实的红线。”
所谓“AI幻觉”,指的是AI会生成看似合理实际却错误的信息,常见的表现是编造一些不存在的事实或细节。近期,中国青年报·中青校媒面向全国各地的大学生针对“AI幻觉”话题开展问卷调查,共回收有效问卷1461份。调查显示,97.%受访大学遇到过AI提供错误或虚假信息的情况。
AI给出的就是“完美答案”?
来自华南农业大学历史学专业的戴瑞对AI并不陌生。戴瑞第一次领教AI幻觉,是在写论文找文献时。“把主题‘喂’给AI,它会编出不存在的学者、论文,还像模像样的,但去知网一搜,根本查不到相关信息。”如果不加核查,那些虚构的作者和论文都能被老师一眼识破。
除了编造文献,AI还会犯“张冠李戴”的错。戴瑞曾让AI梳理历史事件,结果年份和史实对不上,“比如把A年份的事件说成在B年份发生,或者把甲做的事说成乙做的”。这些错误让她不得不返工,“本以为大功告成,结果前面全是虚假信息,只能推倒重来,重新核对史料”。
调查显示,在受访大学生使用AI时,57.63%受访者遇到过数据或案例引用错误,55.03%受访者面临过学术参考文献推荐错误,50.86%受访者遇到过AI给出的常识性知识错误。
在上海一所高校读博士的申杰也经常遇到AI反馈虚假文献的情况。AI会给出一些文献的链接,但点进去后是“404”,也有时AI不提供来源链接,申杰按照文献名到学术论文网站上检索后,发现“查无此文”。“当我给AI工具反馈这篇文章不存在时,它还会‘嘴硬’,说这是因为我没有认真检索,还会给出一个假的论文来源链接。”当申杰拿出“实锤”——检索截图,AI工具则一言不发,或者开始道歉。
即将就读于复旦大学马克思主义哲学专业的班世钊,回想起去年决定研究生报考方向时咨询AI的情景,觉得AI给出的建议并不总是贴合实际。
“虽然AI对于标准明晰的指标分析非常理性,但是一旦涉及更加复杂的情感决策时,它就容易出现偏离实际甚至是胡编乱造的情况。AI为了说服我选择一位导师,编造出了这位老师从未公开发表过的言论。”
在一次简历投递前,就读于华东师范大学播音与主持艺术专业的高育格请AI润色她的简历。“AI为了‘佐证’我的能力,编造出了这个项目的商业交易总额、场观人次等数据。”作为活动的亲历者,她感到啼笑皆非。
谈及AI幻觉的社会影响,瞿锐捷很认可北京大学新闻与传播学院教授胡泳关于“AI内容生态”的观点:“当社交媒体90%的内容由AI生成,且公众缺乏甄别能力时,就会陷入李普曼所说的‘拟态环境’困境——人们认知的世界不再是真实世界,而是AI建构的虚假镜像。”瞿锐捷觉得更值得警惕的是AI的认知偏向,“比如我曾问过不同国家的AI模型什么是‘世界最伟大的四个字’,它们会给出不同答案,这本质上是算法背后的价值预设在起作用,若被当作‘客观事实’传播,会潜移默化地影响公众。”
谈及AI幻觉的影响,戴瑞认为对学术冲击很大:“历史研究靠史实说话,AI编造的虚假史实完全不符合规范。要是连年代、事件都错了,基本史实都保证不了。”
调查显示,导致作业/论文/工作出现错误(57.70%)、浪费大量时间验证信息(52.29%)、误导决策或研究方向(44.35%)都是受访大学生认为AI幻觉带来的不良影响。
“写专业课作业、搜寻史料时不用AI,得自己翻书查文献;但写诸如发言稿、总结纲要时,使用能节省时间。”戴瑞强调,AI带来的是灵感还是抄袭,全在一念之间,“别让自己的思维变懒惰、变僵化。”
理解AI规则,拨开信息迷雾
申杰在一则新闻上看到,一位用户向AI工具提问,某座城市的立交桥为什么采用某种设计方式。然而,这个问题本身就有问题,该城市的立交桥设计并非用户描述的那样,但AI工具没有指出问题的谬误,而是迎合提问者,编出一套理由来回应。“有些AI模型的底层逻辑,就是要优先回答用户的问题,而不是先判断用户提问是否符合实情。还有一些AI工具不联网,就更容易给出偏离事实的答案。”
班世钊观察到,当AI无法调用已有资源解答他的困惑时,它往往会搜寻甚至编造一些看似和他情形相近的例子试图说服他。有时AI回复“那么我可以从以下具体案例入手”“应该结合一些具体案例”,事实上这些案例往往真假参半。
AI的这一特性引起了班世钊的兴趣。他比较了几款热门AI软件的解答思路,感受到“AI幻觉”的产生或许是源自它们极强的“服务意识”:它们一直试图为用户提供逻辑闭环、有头有尾的“满分”解答,即便是面对超出它分析能力的提问,它也会“冒险”作答。
在新闻实操中,瞿锐捷多次遭遇AI的“幻觉陷阱”。例如在专业课上,老师要求模拟报道珠海某新闻事件时,由于官方信源有限,AI竟自行编撰“内部文件”和“匿名访谈”来补充细节。“这些内容逻辑自洽,甚至标注了‘据知情人士透露’,但溯源后我发现这些全是虚构的——这其实是AI在训练数据不足时,通过算法预测进行的‘信息补全’,但这却违背了新闻采集中‘信源可追溯’的基本要求。”
当怀疑AI提供的信息存在问题时,65.43%受访者会使用其他搜索渠道交叉验证,60.37%受访者会查阅权威书籍或者文献,45.79%受访者会咨询老师或者专业人士,42.09%受访者会通过实践操作验证。
如今,核实信息已经成为高育格使用AI时必不可少的步骤。她有时觉得自己不像是发出指令的用户,反而像是AI的检测员。虽然大部分错误她能够一眼看出,但是面对陌生领域的知识时,她也会感到力不从心,而一些“七分真三分假”的文本更是大大增加了她检验的时间成本。“每次大费周章核实信息之后,我都会产生‘还不如自己写’的心情。”
申杰发现,一些AI工具在给出涉及健康、安全领域的答案时,会有特别提示。他最近帮朋友询问了耳鸣和手指发麻可能是什么问题,AI工具回答的第一句话,就是“重要声明:我是人工智能,无法提供医疗建议。以下信息仅供参考……强烈建议尽快咨询医生”,“尽快咨询医生”还被加粗显示。“这在一定程度上能让用户警惕,AI的话不能全信。”
善用而不轻信,用理性思维校准“AI滤镜”
“会不会是我们对于AI的期待太高了?”对于班世钊而言,“AI幻觉”的存在使他重新思考自己与AI的关系。他一度认为,AI所呈现出的超强检索、整合与输出能力能够帮助他抵达思考的最后一站;而在一次次复杂情境之中,他意识到AI终究难以深入理解个体的真实处境,AI可以成为他的有力助手,但不该由它们按下决策键。
调查发现,12.66%受访者对AI幻觉表示非常担忧,48.67%受访者表示比较担忧并在使用时格外谨慎,32.03%受访者认为这是技术发展的正常现象,6.64%受访者对AI幻觉并不担忧。
为了避免被AI误导,戴瑞会用知网或专业数据库交叉验证。她尽量不去依赖求助老师,主要靠自己查证,“老师大多反对用AI找史料,认为这会丢了历史学科的严谨性,但支持用AI做总结或梳理思路”。
在瞿锐捷看来,在AI时代必须强化AI素养:“这不仅是辨别信息真伪,更要理解AI生成内容的逻辑——它本质上是对既有数据的重组,而非原创。就像写新闻时,AI可以帮你提炼政策背景的大纲,但采访细节、信源核实必须亲力亲为。”他建议学校在课程体系中融入“AI内容甄别”模块:“比如通过案例教学,分析AI如何编造信源,或开展模拟报道实训,要求用AI辅助但必须标注每处信息的溯源过程,以此强化‘求证意识’。”
要判断AI给出的信息是真是假,用户需要哪些层面的能力?
申杰专门就此问题询问了AI,得到的答案是需要知识储备、批判性思维和主动查证的能力,以及对AI工作原理的理解和使用AI工具的实践经验。其中后两项是可以通过特定的培养和训练来实现的,正因如此,他觉得提升AI素养、弥合数字鸿沟的科普课程是必要的。
“代际反哺也很重要,年轻人也可以给自己的长辈多做普及。”申杰觉得如果把AI当作“大脑”来使用,可能比较容易被AI幻觉影响,“但如果仍保有自己的思考,只把AI当作辅助消化的‘肠胃’,能更好地排除AI生成内容的不良影响”。
调查发现,74.26%受访者希望提升研发技术、优化算法模型、严格数据治理,63.79%受访者希望完善人工审核干预与用户反馈机制,58.25%受访者希望开发实时纠错提示功能,50.31%受访者期待AI向用户明确标注信息可信度,39.01%受访者希望制定行业标准、加强监管力度与从业人员教育培训。
瞿锐捷最期待AI工具“信源透明度”能够提高:“就像学术论文必须标注参考文献,AI生成的每一条事实性信息都应附上溯源链接,这可以降低用户的核实成本。”
在高育格看来,AI对用户足够“坦诚”或许可以成为研发团队的下一步目标。如果信息并非源自权威期刊或是官方报道,那么AI应当充分、清晰地提示这一点。“我所需要的不是一个完美的外壳,而是有扎实基础的答卷。”
(应受访者要求,申杰为化名)
实习生 贾明皓 何烨 中青报·中青网记者 王军利 毕若旭 来源:中国青年报
2025年07月14日 06版
**lunchangyijizonghezhengduihuanzheshenghuozhiliangdeyingxiang**changyijizonghezheng(IBS)shiyizhongchangjiandegongnengxingchangdaojibing,qizhuyaotezhengweifutong、fuzhangyijipaibianxiguandegaibian。suiranIBSdebingyinshangweiwanquanmingque,danqiduihuanzheshenghuozhiliangdeyingxiangqueshixianeryijiande。benwenjiangtantaoIBSruheyingxianghuanzhederichangshenghuojixinlijiankang,bingchanshuxiangyingdeyingduicelve。shouxian,IBShuanzhechangchangmianlinmingxiandeshentibushi。fanfuchuxiandefutonghezhangqibujinshihuanzhezaiyinshishangshoudaoxianzhi,haikenengdaozhigongzuoheshejiaohuodongdejianshao。xuduorenzaiwaichushihuiyindanxinfutonghuojixushangcesuoerxuanzebucanjiajuhuihuolvxing,congershitamendeshejiaoshenghuoshoudaoyanzhongyingxiang。yixiangyanjiuxianshi,IBShuanzhedegongzuoxiaolvpubiandiyuputongrenqun,changqideshentibushihuidaozhixinlifudanjiazhong。qici,IBSduixinlijiankangdeyingxiangtongyangbukehushi。youyupinfandexiaohuadaozhengzhuang,xuduohuanzhehuijinglijiaolvheyiyudengqingxuwenti。yiweihuanzhezengbiaoshi,duiweilaidedanyouheduizhengzhuangfazuodekongjuyichengweiqishenghuozhongdechangtai。zhezhongxinlifudanbujinyingxiangletamenderichangshenghuo,gengkenengdaozhiyizhongexingxunhuan:xinliyalijiazhonglechangdaozhengzhuang,erchangdaozhengzhuangyouzengjialexinliyali。yinci,xinlizhiliaozaiIBSdezhiliaozhongyuelaiyueshoudaozhongshi。zuihou,worenwei,yingduiIBSdeguanjianzaiyuzongheguanli。chuleyaowuzhiliaowai,yinshitiaozheng、yaliguanlihexinlizixundengfangfayeyingnaruzhiliaofangan。huanzhexuxuexiruheshibieyoufazhengzhuangdeshiwu,bingyuzhuanye*(*)*(*)论(lun)肠(chang)易(yi)激(ji)综(zong)合(he)征(zheng)对(dui)患(huan)者(zhe)生(sheng)活(huo)质(zhi)量(liang)的(de)影(ying)响(xiang)*(*)*(*)肠(chang)易(yi)激(ji)综(zong)合(he)征(zheng)((()I(I)B(B)S(S))())是(shi)一(yi)种(zhong)常(chang)见(jian)的(de)功(gong)能(neng)性(xing)肠(chang)道(dao)疾(ji)病(bing),(,)其(qi)主(zhu)要(yao)特(te)征(zheng)为(wei)腹(fu)痛(tong)、(、)腹(fu)胀(zhang)以(yi)及(ji)排(pai)便(bian)习(xi)惯(guan)的(de)改(gai)变(bian)。(。)虽(sui)然(ran)I(I)B(B)S(S)的(de)病(bing)因(yin)尚(shang)未(wei)完(wan)全(quan)明(ming)确(que),(,)但(dan)其(qi)对(dui)患(huan)者(zhe)生(sheng)活(huo)质(zhi)量(liang)的(de)影(ying)响(xiang)却(que)是(shi)显(xian)而(er)易(yi)见(jian)的(de)。(。)本(ben)文(wen)将(jiang)探(tan)讨(tao)I(I)B(B)S(S)如(ru)何(he)影(ying)响(xiang)患(huan)者(zhe)的(de)日(ri)常(chang)生(sheng)活(huo)及(ji)心(xin)理(li)健(jian)康(kang),(,)并(bing)阐(chan)述(shu)相(xiang)应(ying)的(de)应(ying)对(dui)策(ce)略(lve)。(。)首(shou)先(xian),(,)I(I)B(B)S(S)患(huan)者(zhe)常(chang)常(chang)面(mian)临(lin)明(ming)显(xian)的(de)身(shen)体(ti)不(bu)适(shi)。(。)反(fan)复(fu)出(chu)现(xian)的(de)腹(fu)痛(tong)和(he)胀(zhang)气(qi)不(bu)仅(jin)使(shi)患(huan)者(zhe)在(zai)饮(yin)食(shi)上(shang)受(shou)到(dao)限(xian)制(zhi),(,)还(hai)可(ke)能(neng)导(dao)致(zhi)工(gong)作(zuo)和(he)社(she)交(jiao)活(huo)动(dong)的(de)减(jian)少(shao)。(。)许(xu)多(duo)人(ren)在(zai)外(wai)出(chu)时(shi)会(hui)因(yin)担(dan)心(xin)腹(fu)痛(tong)或(huo)急(ji)需(xu)上(shang)厕(ce)所(suo)而(er)选(xuan)择(ze)不(bu)参(can)加(jia)聚(ju)会(hui)或(huo)旅(lv)行(xing),(,)从(cong)而(er)使(shi)他(ta)们(men)的(de)社(she)交(jiao)生(sheng)活(huo)受(shou)到(dao)严(yan)重(zhong)影(ying)响(xiang)。(。)一(yi)项(xiang)研(yan)究(jiu)显(xian)示(shi),(,)I(I)B(B)S(S)患(huan)者(zhe)的(de)工(gong)作(zuo)效(xiao)率(lv)普(pu)遍(bian)低(di)于(yu)普(pu)通(tong)人(ren)群(qun),(,)长(chang)期(qi)的(de)身(shen)体(ti)不(bu)适(shi)会(hui)导(dao)致(zhi)心(xin)理(li)负(fu)担(dan)加(jia)重(zhong)。(。)其(qi)次(ci),(,)I(I)B(B)S(S)对(dui)心(xin)理(li)健(jian)康(kang)的(de)影(ying)响(xiang)同(tong)样(yang)不(bu)可(ke)忽(hu)视(shi)。(。)由(you)于(yu)频(pin)繁(fan)的(de)消(xiao)化(hua)道(dao)症(zheng)状(zhuang),(,)许(xu)多(duo)患(huan)者(zhe)会(hui)经(jing)历(li)焦(jiao)虑(lv)和(he)抑(yi)郁(yu)等(deng)情(qing)绪(xu)问(wen)题(ti)。(。)一(yi)位(wei)患(huan)者(zhe)曾(zeng)表(biao)示(shi),(,)对(dui)未(wei)来(lai)的(de)担(dan)忧(you)和(he)对(dui)症(zheng)状(zhuang)发(fa)作(zuo)的(de)恐(kong)惧(ju)已(yi)成(cheng)为(wei)其(qi)生(sheng)活(huo)中(zhong)的(de)常(chang)态(tai)。(。)这(zhe)种(zhong)心(xin)理(li)负(fu)担(dan)不(bu)仅(jin)影(ying)响(xiang)了(le)他(ta)们(men)的(de)日(ri)常(chang)生(sheng)活(huo),(,)更(geng)可(ke)能(neng)导(dao)致(zhi)一(yi)种(zhong)恶(e)性(xing)循(xun)环(huan):(:)心(xin)理(li)压(ya)力(li)加(jia)重(zhong)了(le)肠(chang)道(dao)症(zheng)状(zhuang),(,)而(er)肠(chang)道(dao)症(zheng)状(zhuang)又(you)增(zeng)加(jia)了(le)心(xin)理(li)压(ya)力(li)。(。)因(yin)此(ci),(,)心(xin)理(li)治(zhi)疗(liao)在(zai)I(I)B(B)S(S)的(de)治(zhi)疗(liao)中(zhong)越(yue)来(lai)越(yue)受(shou)到(dao)重(zhong)视(shi)。(。)最(zui)后(hou),(,)我(wo)认(ren)为(wei),(,)应(ying)对(dui)I(I)B(B)S(S)的(de)关(guan)键(jian)在(zai)于(yu)综(zong)合(he)管(guan)理(li)。(。)除(chu)了(le)药(yao)物(wu)治(zhi)疗(liao)外(wai),(,)饮(yin)食(shi)调(tiao)整(zheng)、(、)压(ya)力(li)管(guan)理(li)和(he)心(xin)理(li)咨(zi)询(xun)等(deng)方(fang)法(fa)也(ye)应(ying)纳(na)入(ru)治(zhi)疗(liao)方(fang)案(an)。(。)患(huan)者(zhe)需(xu)学(xue)习(xi)如(ru)何(he)识(shi)别(bie)诱(you)发(fa)症(zheng)状(zhuang)的(de)食(shi)物(wu),(,)并(bing)与(yu)专(zhuan)业(ye)