超七成受访大学生希望提升研发技术减少“AI幻觉”|边添小泬边狠狠躁18禁

  当AI释放“信息烟雾弹”——

  超七成受访大学生希望提升研发技术减少“AI幻觉”

  “AI在文献检索上的效率确实无可替代,能快速聚合相关研究,但当AI撰写新闻稿时,偶尔会对信息进行错误拼接,甚至虚构信息来填补报道空白。”作为新闻传播相关专业学生,就读于中国海洋大学的瞿锐捷对AI的使用始终保持警惕,这种警惕源于对新闻真实原则的坚守:“新闻的生命在于真实,而AI生成的内容往往游走在‘看似合理’与‘事实错误’的灰色地带,稍不注意就会触碰新闻失实的红线。”

  所谓“AI幻觉”,指的是AI会生成看似合理实际却错误的信息,常见的表现是编造一些不存在的事实或细节。近期,中国青年报·中青校媒面向全国各地的大学生针对“AI幻觉”话题开展问卷调查,共回收有效问卷1461份。调查显示,97.%受访大学遇到过AI提供错误或虚假信息的情况。

  AI给出的就是“完美答案”?

  来自华南农业大学历史学专业的戴瑞对AI并不陌生。戴瑞第一次领教AI幻觉,是在写论文找文献时。“把主题‘喂’给AI,它会编出不存在的学者、论文,还像模像样的,但去知网一搜,根本查不到相关信息。”如果不加核查,那些虚构的作者和论文都能被老师一眼识破。

  除了编造文献,AI还会犯“张冠李戴”的错。戴瑞曾让AI梳理历史事件,结果年份和史实对不上,“比如把A年份的事件说成在B年份发生,或者把甲做的事说成乙做的”。这些错误让她不得不返工,“本以为大功告成,结果前面全是虚假信息,只能推倒重来,重新核对史料”。

  调查显示,在受访大学生使用AI时,57.63%受访者遇到过数据或案例引用错误,55.03%受访者面临过学术参考文献推荐错误,50.86%受访者遇到过AI给出的常识性知识错误。

  在上海一所高校读博士的申杰也经常遇到AI反馈虚假文献的情况。AI会给出一些文献的链接,但点进去后是“404”,也有时AI不提供来源链接,申杰按照文献名到学术论文网站上检索后,发现“查无此文”。“当我给AI工具反馈这篇文章不存在时,它还会‘嘴硬’,说这是因为我没有认真检索,还会给出一个假的论文来源链接。”当申杰拿出“实锤”——检索截图,AI工具则一言不发,或者开始道歉。

  即将就读于复旦大学马克思主义哲学专业的班世钊,回想起去年决定研究生报考方向时咨询AI的情景,觉得AI给出的建议并不总是贴合实际。

  “虽然AI对于标准明晰的指标分析非常理性,但是一旦涉及更加复杂的情感决策时,它就容易出现偏离实际甚至是胡编乱造的情况。AI为了说服我选择一位导师,编造出了这位老师从未公开发表过的言论。”

  在一次简历投递前,就读于华东师范大学播音与主持艺术专业的高育格请AI润色她的简历。“AI为了‘佐证’我的能力,编造出了这个项目的商业交易总额、场观人次等数据。”作为活动的亲历者,她感到啼笑皆非。

  谈及AI幻觉的社会影响,瞿锐捷很认可北京大学新闻与传播学院教授胡泳关于“AI内容生态”的观点:“当社交媒体90%的内容由AI生成,且公众缺乏甄别能力时,就会陷入李普曼所说的‘拟态环境’困境——人们认知的世界不再是真实世界,而是AI建构的虚假镜像。”瞿锐捷觉得更值得警惕的是AI的认知偏向,“比如我曾问过不同国家的AI模型什么是‘世界最伟大的四个字’,它们会给出不同答案,这本质上是算法背后的价值预设在起作用,若被当作‘客观事实’传播,会潜移默化地影响公众。”

  谈及AI幻觉的影响,戴瑞认为对学术冲击很大:“历史研究靠史实说话,AI编造的虚假史实完全不符合规范。要是连年代、事件都错了,基本史实都保证不了。”

  调查显示,导致作业/论文/工作出现错误(57.70%)、浪费大量时间验证信息(52.29%)、误导决策或研究方向(44.35%)都是受访大学生认为AI幻觉带来的不良影响。

  “写专业课作业、搜寻史料时不用AI,得自己翻书查文献;但写诸如发言稿、总结纲要时,使用能节省时间。”戴瑞强调,AI带来的是灵感还是抄袭,全在一念之间,“别让自己的思维变懒惰、变僵化。”

  理解AI规则,拨开信息迷雾

  申杰在一则新闻上看到,一位用户向AI工具提问,某座城市的立交桥为什么采用某种设计方式。然而,这个问题本身就有问题,该城市的立交桥设计并非用户描述的那样,但AI工具没有指出问题的谬误,而是迎合提问者,编出一套理由来回应。“有些AI模型的底层逻辑,就是要优先回答用户的问题,而不是先判断用户提问是否符合实情。还有一些AI工具不联网,就更容易给出偏离事实的答案。”

  班世钊观察到,当AI无法调用已有资源解答他的困惑时,它往往会搜寻甚至编造一些看似和他情形相近的例子试图说服他。有时AI回复“那么我可以从以下具体案例入手”“应该结合一些具体案例”,事实上这些案例往往真假参半。

  AI的这一特性引起了班世钊的兴趣。他比较了几款热门AI软件的解答思路,感受到“AI幻觉”的产生或许是源自它们极强的“服务意识”:它们一直试图为用户提供逻辑闭环、有头有尾的“满分”解答,即便是面对超出它分析能力的提问,它也会“冒险”作答。

  在新闻实操中,瞿锐捷多次遭遇AI的“幻觉陷阱”。例如在专业课上,老师要求模拟报道珠海某新闻事件时,由于官方信源有限,AI竟自行编撰“内部文件”和“匿名访谈”来补充细节。“这些内容逻辑自洽,甚至标注了‘据知情人士透露’,但溯源后我发现这些全是虚构的——这其实是AI在训练数据不足时,通过算法预测进行的‘信息补全’,但这却违背了新闻采集中‘信源可追溯’的基本要求。”

  当怀疑AI提供的信息存在问题时,65.43%受访者会使用其他搜索渠道交叉验证,60.37%受访者会查阅权威书籍或者文献,45.79%受访者会咨询老师或者专业人士,42.09%受访者会通过实践操作验证。

  如今,核实信息已经成为高育格使用AI时必不可少的步骤。她有时觉得自己不像是发出指令的用户,反而像是AI的检测员。虽然大部分错误她能够一眼看出,但是面对陌生领域的知识时,她也会感到力不从心,而一些“七分真三分假”的文本更是大大增加了她检验的时间成本。“每次大费周章核实信息之后,我都会产生‘还不如自己写’的心情。”

  申杰发现,一些AI工具在给出涉及健康、安全领域的答案时,会有特别提示。他最近帮朋友询问了耳鸣和手指发麻可能是什么问题,AI工具回答的第一句话,就是“重要声明:我是人工智能,无法提供医疗建议。以下信息仅供参考……强烈建议尽快咨询医生”,“尽快咨询医生”还被加粗显示。“这在一定程度上能让用户警惕,AI的话不能全信。”

  善用而不轻信,用理性思维校准“AI滤镜”

  “会不会是我们对于AI的期待太高了?”对于班世钊而言,“AI幻觉”的存在使他重新思考自己与AI的关系。他一度认为,AI所呈现出的超强检索、整合与输出能力能够帮助他抵达思考的最后一站;而在一次次复杂情境之中,他意识到AI终究难以深入理解个体的真实处境,AI可以成为他的有力助手,但不该由它们按下决策键。

  调查发现,12.66%受访者对AI幻觉表示非常担忧,48.67%受访者表示比较担忧并在使用时格外谨慎,32.03%受访者认为这是技术发展的正常现象,6.64%受访者对AI幻觉并不担忧。

  为了避免被AI误导,戴瑞会用知网或专业数据库交叉验证。她尽量不去依赖求助老师,主要靠自己查证,“老师大多反对用AI找史料,认为这会丢了历史学科的严谨性,但支持用AI做总结或梳理思路”。

  在瞿锐捷看来,在AI时代必须强化AI素养:“这不仅是辨别信息真伪,更要理解AI生成内容的逻辑——它本质上是对既有数据的重组,而非原创。就像写新闻时,AI可以帮你提炼政策背景的大纲,但采访细节、信源核实必须亲力亲为。”他建议学校在课程体系中融入“AI内容甄别”模块:“比如通过案例教学,分析AI如何编造信源,或开展模拟报道实训,要求用AI辅助但必须标注每处信息的溯源过程,以此强化‘求证意识’。”

  要判断AI给出的信息是真是假,用户需要哪些层面的能力?

  申杰专门就此问题询问了AI,得到的答案是需要知识储备、批判性思维和主动查证的能力,以及对AI工作原理的理解和使用AI工具的实践经验。其中后两项是可以通过特定的培养和训练来实现的,正因如此,他觉得提升AI素养、弥合数字鸿沟的科普课程是必要的。

  “代际反哺也很重要,年轻人也可以给自己的长辈多做普及。”申杰觉得如果把AI当作“大脑”来使用,可能比较容易被AI幻觉影响,“但如果仍保有自己的思考,只把AI当作辅助消化的‘肠胃’,能更好地排除AI生成内容的不良影响”。

  调查发现,74.26%受访者希望提升研发技术、优化算法模型、严格数据治理,63.79%受访者希望完善人工审核干预与用户反馈机制,58.25%受访者希望开发实时纠错提示功能,50.31%受访者期待AI向用户明确标注信息可信度,39.01%受访者希望制定行业标准、加强监管力度与从业人员教育培训。

  瞿锐捷最期待AI工具“信源透明度”能够提高:“就像学术论文必须标注参考文献,AI生成的每一条事实性信息都应附上溯源链接,这可以降低用户的核实成本。”

  在高育格看来,AI对用户足够“坦诚”或许可以成为研发团队的下一步目标。如果信息并非源自权威期刊或是官方报道,那么AI应当充分、清晰地提示这一点。“我所需要的不是一个完美的外壳,而是有扎实基础的答卷。”

  (应受访者要求,申杰为化名)

  实习生 贾明皓 何烨 中青报·中青网记者 王军利 毕若旭 来源:中国青年报

  2025年07月14日 06版

###yuxingcaodetanmiyuxingcao,xueming“Houttuyniacordata”,shiyizhongguangfanfenbuyudongyadiqudeduonianshengcaobenzhiwu。yinqidutedeqiweierdeming,xuduorenzaichuchangshikenenghuibeiqiyuxingweisuojingyan,danshijishang,tazaizhongyihepengrenzhongdouyouzhezhongyaodediwei。shouxian,rangwomenlailejieyuxingcaodeshengwutexing。tatongchangshengchangzaishirundehuanjingzhong,yepianweixinxing,yansexianlv,huaduozeweixiaoxingerbuqiyandebaisehuohuangse。yuxingcaobujinshiyingliqiang,erqieduiturangyaoqiubugao,changchangkeyizaihebian、tianbianzhaodaotadeshenying。yuxingcaozaichuantongzhongyizhongbeiyuwei“qingrejiedu”deliangyao。tabeiguangfanyingyongyuzhiliaoganmao、kesou、houlongtongdengzhengzhuang,youqishiduiyuyoushireyinqidejibing,yuxingcaonengqidaohenhaodefuzhuliaoxiao。ciwai,yuxingcaohaifuhanduozhongweishengsuhekuangwuzhi,juyoukangjun、kangyanhetigaomianyilidegongxiao,chengweihenduozhuzhongjiankangrenqundeyinshixuanze。zaipengrenfangmian,yuxingcaochangchangbeiyongzuoliangbancaidezhuyaocailiao,yekeyizuochengtangpinhuohuoguodiliao。qidutedexiangweikeyiweicaiyaozengtiandutedefengwei,youqishizaixiaji,liangbanyuxingcaopeishangsuannihejiangyou,jiqingshuangyoukaiwei,chengweilehenduorencanzhuoshangdebibeijiapin。raner,yuxingcaojinguanjuyouzhuduohaochu,danbingbushi#(#)#(#)#(#)鱼(yu)腥(xing)草(cao)的(de)探(tan)秘(mi)鱼(yu)腥(xing)草(cao),(,)学(xue)名(ming)“(“)H(H)o(o)u(u)t(t)t(t)u(u)y(y)n(n)i(i)a(a)c(c)o(o)r(r)d(d)a(a)t(t)a(a)”(”),(,)是(shi)一(yi)种(zhong)广(guang)泛(fan)分(fen)布(bu)于(yu)东(dong)亚(ya)地(di)区(qu)的(de)多(duo)年(nian)生(sheng)草(cao)本(ben)植(zhi)物(wu)。(。)因(yin)其(qi)独(du)特(te)的(de)气(qi)味(wei)而(er)得(de)名(ming),(,)许(xu)多(duo)人(ren)在(zai)初(chu)尝(chang)时(shi)可(ke)能(neng)会(hui)被(bei)其(qi)鱼(yu)腥(xing)味(wei)所(suo)惊(jing)艳(yan),(,)但(dan)实(shi)际(ji)上(shang),(,)它(ta)在(zai)中(zhong)医(yi)和(he)烹(peng)饪(ren)中(zhong)都(dou)有(you)着(zhe)重(zhong)要(yao)的(de)地(di)位(wei)。(。)首(shou)先(xian),(,)让(rang)我(wo)们(men)来(lai)了(le)解(jie)鱼(yu)腥(xing)草(cao)的(de)生(sheng)物(wu)特(te)性(xing)。(。)它(ta)通(tong)常(chang)生(sheng)长(chang)在(zai)湿(shi)润(run)的(de)环(huan)境(jing)中(zhong),(,)叶(ye)片(pian)为(wei)心(xin)形(xing),(,)颜(yan)色(se)鲜(xian)绿(lv),(,)花(hua)朵(duo)则(ze)为(wei)小(xiao)型(xing)而(er)不(bu)起(qi)眼(yan)的(de)白(bai)色(se)或(huo)黄(huang)色(se)。(。)鱼(yu)腥(xing)草(cao)不(bu)仅(jin)适(shi)应(ying)力(li)强(qiang),(,)而(er)且(qie)对(dui)土(tu)壤(rang)要(yao)求(qiu)不(bu)高(gao),(,)常(chang)常(chang)可(ke)以(yi)在(zai)河(he)边(bian)、(、)田(tian)边(bian)找(zhao)到(dao)它(ta)的(de)身(shen)影(ying)。(。)鱼(yu)腥(xing)草(cao)在(zai)传(chuan)统(tong)中(zhong)医(yi)中(zhong)被(bei)誉(yu)为(wei)“(“)清(qing)热(re)解(jie)毒(du)”(”)的(de)良(liang)药(yao)。(。)它(ta)被(bei)广(guang)泛(fan)应(ying)用(yong)于(yu)治(zhi)疗(liao)感(gan)冒(mao)、(、)咳(ke)嗽(sou)、(、)喉(hou)咙(long)痛(tong)等(deng)症(zheng)状(zhuang),(,)尤(you)其(qi)是(shi)对(dui)于(yu)由(you)湿(shi)热(re)引(yin)起(qi)的(de)疾(ji)病(bing),(,)鱼(yu)腥(xing)草(cao)能(neng)起(qi)到(dao)很(hen)好(hao)的(de)辅(fu)助(zhu)疗(liao)效(xiao)。(。)此(ci)外(wai),(,)鱼(yu)腥(xing)草(cao)还(hai)富(fu)含(han)多(duo)种(zhong)维(wei)生(sheng)素(su)和(he)矿(kuang)物(wu)质(zhi),(,)具(ju)有(you)抗(kang)菌(jun)、(、)抗(kang)炎(yan)和(he)提(ti)高(gao)免(mian)疫(yi)力(li)的(de)功(gong)效(xiao),(,)成(cheng)为(wei)很(hen)多(duo)注(zhu)重(zhong)健(jian)康(kang)人(ren)群(qun)的(de)饮(yin)食(shi)选(xuan)择(ze)。(。)在(zai)烹(peng)饪(ren)方(fang)面(mian),(,)鱼(yu)腥(xing)草(cao)常(chang)常(chang)被(bei)用(yong)作(zuo)凉(liang)拌(ban)菜(cai)的(de)主(zhu)要(yao)材(cai)料(liao),(,)也(ye)可(ke)以(yi)做(zuo)成(cheng)汤(tang)品(pin)或(huo)火(huo)锅(guo)底(di)料(liao)。(。)其(qi)独(du)特(te)的(de)香(xiang)味(wei)可(ke)以(yi)为(wei)菜(cai)肴(yao)增(zeng)添(tian)独(du)特(te)的(de)风(feng)味(wei),(,)尤(you)其(qi)是(shi)在(zai)夏(xia)季(ji),(,)凉(liang)拌(ban)鱼(yu)腥(xing)草(cao)配(pei)上(shang)蒜(suan)泥(ni)和(he)酱(jiang)油(you),(,)既(ji)清(qing)爽(shuang)又(you)开(kai)胃(wei),(,)成(cheng)为(wei)了(le)很(hen)多(duo)人(ren)餐(can)桌(zhuo)上(shang)的(de)必(bi)备(bei)佳(jia)品(pin)。(。)然(ran)而(er),(,)鱼(yu)腥(xing)草(cao)尽(jin)管(guan)具(ju)有(you)诸(zhu)多(duo)好(hao)处(chu),(,)但(dan)并(bing)不(bu)适(shi)

发布于:北京市