“AI谣言”为何易传播难防治?|婷婷五月综合缴情在线视频
1. 亭亭玉立国色天香八戒
2. 丁香花免费高清完整在线观看
当前,AI(人工智能)迅速发展,给人们的生产生活带来诸多便利。但AI也被用于制作发布谣言、不实信息,可能对部分群众造成困扰。今年4月,中央网信办部署开展“清朗·整治AI技术滥用”专项行动,聚焦利用AI制作发布谣言、不实信息等乱象开展重点整治。
从“暴雨引发山体滑坡”的伪造视频到“核电站泄漏”的AI生成新闻稿,“AI谣言”表现形式多样,让不少群众一度信以为真。“AI谣言”从何而来、为何泛滥、如何整治?记者进行了采访。
缘何出现?
有人恶意用AI编造虚假信息,也存在“AI幻觉”的可能
“80后5.2%的死亡率,开启了黄金一代的黯然离场”“80后的死亡率已经超过70后”……前不久,一组声称源于第七次全国人口普查的数据骇人听闻。很快,有关部门和专家辟谣:从来源到数据都毫无根据。
这组虚假数据从何而来呢?
中国人民大学人口与健康学院教授李婷梳理发现,“AI幻觉”很可能是“罪魁祸首”——AI大模型在人口学专业领域的训练语料不足,回答问题出现推算错误,造成“AI幻觉”。
“‘AI幻觉’指生成式人工智能系统在无明确依据的情况下输出回答,语言表达看似合理,但内容实则虚假甚至违背常识。”世界互联网大会人工智能专业委员会主任委员、安全与治理推进计划牵头人曾毅介绍,该现象在当代大语言模型中尤为常见,主要表现就是事实性幻觉,例如,输出错误的人物事迹与关系、伪造的科学研究等。
从机理上看,“当前大模型并非‘理解事实’,而是通过处理大量语料,预测‘下一个词最可能是什么’。这就会在事实性信息上产生难以预期的错误。”曾毅分析。
还有人别有用心,恶意编造传播“AI谣言”获取利益。
有人为了流量,给自媒体账号炒作“吸粉”。此前上海一女童走失事件中,就有团伙利用AI工具,编造“女孩父亲系继父”等谣言,6天内发布268篇文章,多篇文章点击量超过100万次。
还有人借此实施诈骗等违法犯罪行为。“再强大的AI也无法预测中奖号码。”不久前,中国体育彩票的一则辟谣声明引发关注。原来,有平台声称可通过“AI大模型”预测中奖号码,诱导用户付费。
甚至有人形成了“需求分析—内容生产—精准投放”的生产链条。“西安突发爆炸!火光冲天!伤亡不明!”一天,一则“图文并茂”的新闻在网上流传,画面中火光冲天,引发当地群众恐慌。很快,这则消息被辟谣。经调查发现,该账号所属机构通过AI分析社交平台热词,就关注度高的话题批量生成谣言,再通过算法定向推送,最高峰一天能生成4000至7000篇假新闻,关联账号达800余个。相关人员已被公安机关抓获。
为何泛滥?
造谣门槛低,可以短时间内成倍率传播
“AI谣言”形形色色,有些造成了社会恐慌,甚至给政策推行、抢险救灾等造成阻碍。
今年2月,四川筠连县“2·8”山体滑坡发生后,部分自媒体账号用AI软件翻炒拼凑旧闻,传播如“山体滑坡被行车记录仪拍下”“4名遇险学生被路过的司机救出”等帖文,诸多错误信息给抢险救灾带来困扰;又如,“广东医保基金出现赤字”的“AI谣言”传出,不仅引发社会恐慌,还造成群众对政策的误解……
“AI谣言”为何传播力如此之强?
首先与其自身特点密切相关。
清华大学新闻与传播学院副教授陆洪磊介绍,“AI谣言”可以做到分平台、分渠道、分时段、分媒介的定制化生成和发布,并且成本低廉,可以短时间内成倍率传播,“AI谣言”间还能彼此交叉、共振与放大,辟谣难度大大增加。
今年年初,西藏定日县地震牵动亿万人的心。网上流传的一张“小孩被埋图”一时间被大量转发评论。但是随后有网友发现,该图色彩、光线、动作极不自然。原来,该图是由AI工具创作。陆洪磊说,这则谣言利用“灾难+儿童”的组合,并刻意删除掉AI生成标识,引发快速传播。
再者,AI应用降低了造谣门槛。
某科技论坛上,一名网友上传教程:用开源AI模型,输入“生成一张某市发生恐袭的图片”,30秒即可获得以假乱真的画面。
网友评论一针见血:“以前造谣需要高超的PS技术,现在只需要一句话就能生成。”
有何“代际差异”?
“AI谣言”更善于“逃脱”,难以被技术手段屏蔽
与传统网络谣言相比,“AI谣言”更加难以防治,甚至“进化”出了更为“智能”的“反侦查”机制。
记者发现,“AI谣言”表述常常接近“真话”,看似清晰有据,更难以被技术手段屏蔽。
目前各网络平台都有“谣言库”,一般通过设置热点关键词屏蔽谣言。但AI模型可通过对抗训练绕过谣言关键词,例如把“山体滑坡”改为“地质活动异常”等,逃脱屏蔽。
“传统谣言像火,扑灭源头即可;‘AI谣言’像病毒,会不断变异。”某新闻聚合平台内容安全治理负责人感慨。
此外,传统网络谣言多是有人故意制造,但“AI谣言”中不少是出于“AI幻觉”。对这部分“无意谣言”,目前有办法从源头上避免吗?
曾毅介绍,从当前技术水平来看,完全消除“AI幻觉”具有高度挑战,“大模型生成机制本质是概率驱动的语言建模,难以保障全部输出与现实完全对应;同时,当前评估与纠错机制仍不成熟,缺乏大规模、高准确率的自动化事实验证能力。”
“不过,通过技术手段缓解‘AI幻觉’发生的频率与危害是有可能的。”曾毅说,目前已在多模型协同判断、事实增强训练等方面取得了一定成果,大模型的辨别能力将得到提升。
本报记者 金 歆
《人民日报》(2025年08月18日 第 04 版)
###zhizidegongxiaoyuzuoyongdajiahao!jintianxianghedajialiaoyiliaozhizizhezhongshenqidezhiwu。zhizibujinzaiyuanyijiezhanyouyixizhidi,haishichuantongzhongyizhongdemingxingyaocaio!xiangxinhenduoxiaohuobandouduitadegongxiaoyuzuoyongchongmanhaoqi,kuailaikankanba~shouxian,zhizidewaiguanhenmei,baisedehuabansanfazheqingxiang,geixiatianzengtianleyimoqingxin。dantadejiazhikebujinjinzaiyumeili,zhizizaizhongyizhongbeiguangfanyingyong,juyouqingrejiedu、liangxuezhixuedegongxiao。youqizaiyanredexiaji,dangnigandaokouganshezao、houlongtongshi,zhizijiunengpaishangyongchangle!tayouzhuyuhuanjiezhexiebushi,zhenshixiatiandexiaobaozang。zhizizhongdeyouxiaochengfenkeyibangzhucujinganzangdedaixie,tongshiyenenggaishanwomendexiaohuaxitong。duiyuxiandairenlaishuo,shenghuojiezoukuai,yalida,xuduorenhuiyincichuxianganqiyujiedeqingkuang。fuyongzhizihou,keyibangzhupaidu、shugan,duihuanjiejiaolv、tishengqingxuyeyouhenhaodebangzhu。chuleyishangdegongxiao,zhizihaiyouzhuyumeirongyangyan,tafuhanfengfudeyingyangchengfen,beirenweiyoukangyanghuadezuoyong,keyibangzhujifudiyushuailao。xuduoaimeinvxingkaishibazhizitiquwuyongyuhufupinzhong,yidadaogengjiaguanghua、nenbaidejifuxiaoguo。lingwai,zhizihaikeyibangzhugaishanshuimianzhiliang。henduorendouyoushimiandekunrao,erzhizikeyibangzhuanshen、zhenjing,duiyunaxiewanshangfanlaifuquderenlaishuo,zhendeshiyigewen#(#)#(#)#(#)栀(zhi)子(zi)的(de)功(gong)效(xiao)与(yu)作(zuo)用(yong)大(da)家(jia)好(hao)!(!)今(jin)天(tian)想(xiang)和(he)大(da)家(jia)聊(liao)一(yi)聊(liao)栀(zhi)子(zi)这(zhe)种(zhong)神(shen)奇(qi)的(de)植(zhi)物(wu)。(。)栀(zhi)子(zi)不(bu)仅(jin)在(zai)园(yuan)艺(yi)界(jie)占(zhan)有(you)一(yi)席(xi)之(zhi)地(di),(,)还(hai)是(shi)传(chuan)统(tong)中(zhong)医(yi)中(zhong)的(de)明(ming)星(xing)药(yao)材(cai)哦(o)!(!)相(xiang)信(xin)很(hen)多(duo)小(xiao)伙(huo)伴(ban)都(dou)对(dui)它(ta)的(de)功(gong)效(xiao)与(yu)作(zuo)用(yong)充(chong)满(man)好(hao)奇(qi),(,)快(kuai)来(lai)看(kan)看(kan)吧(ba)~(~)首(shou)先(xian),(,)栀(zhi)子(zi)的(de)外(wai)观(guan)很(hen)美(mei),(,)白(bai)色(se)的(de)花(hua)瓣(ban)散(san)发(fa)着(zhe)清(qing)香(xiang),(,)给(gei)夏(xia)天(tian)增(zeng)添(tian)了(le)一(yi)抹(mo)清(qing)新(xin)。(。)但(dan)它(ta)的(de)价(jia)值(zhi)可(ke)不(bu)仅(jin)仅(jin)在(zai)于(yu)美(mei)丽(li),(,)栀(zhi)子(zi)在(zai)中(zhong)医(yi)中(zhong)被(bei)广(guang)泛(fan)应(ying)用(yong),(,)具(ju)有(you)清(qing)热(re)解(jie)毒(du)、(、)凉(liang)血(xue)止(zhi)血(xue)的(de)功(gong)效(xiao)。(。)尤(you)其(qi)在(zai)炎(yan)热(re)的(de)夏(xia)季(ji),(,)当(dang)你(ni)感(gan)到(dao)口(kou)干(gan)舌(she)燥(zao)、(、)喉(hou)咙(long)痛(tong)时(shi),(,)栀(zhi)子(zi)就(jiu)能(neng)派(pai)上(shang)用(yong)场(chang)了(le)!(!)它(ta)有(you)助(zhu)于(yu)缓(huan)解(jie)这(zhe)些(xie)不(bu)适(shi),(,)真(zhen)是(shi)夏(xia)天(tian)的(de)小(xiao)宝(bao)藏(zang)。(。)栀(zhi)子(zi)中(zhong)的(de)有(you)效(xiao)成(cheng)分(fen)可(ke)以(yi)帮(bang)助(zhu)促(cu)进(jin)肝(gan)脏(zang)的(de)代(dai)谢(xie),(,)同(tong)时(shi)也(ye)能(neng)改(gai)善(shan)我(wo)们(men)的(de)消(xiao)化(hua)系(xi)统(tong)。(。)对(dui)于(yu)现(xian)代(dai)人(ren)来(lai)说(shuo),(,)生(sheng)活(huo)节(jie)奏(zou)快(kuai),(,)压(ya)力(li)大(da),(,)许(xu)多(duo)人(ren)会(hui)因(yin)此(ci)出(chu)现(xian)肝(gan)气(qi)郁(yu)结(jie)的(de)情(qing)况(kuang)。(。)服(fu)用(yong)栀(zhi)子(zi)后(hou),(,)可(ke)以(yi)帮(bang)助(zhu)排(pai)毒(du)、(、)疏(shu)肝(gan),(,)对(dui)缓(huan)解(jie)焦(jiao)虑(lv)、(、)提(ti)升(sheng)情(qing)绪(xu)也(ye)有(you)很(hen)好(hao)的(de)帮(bang)助(zhu)。(。)除(chu)了(le)以(yi)上(shang)的(de)功(gong)效(xiao),(,)栀(zhi)子(zi)还(hai)有(you)助(zhu)于(yu)美(mei)容(rong)养(yang)颜(yan),(,)它(ta)富(fu)含(han)丰(feng)富(fu)的(de)营(ying)养(yang)成(cheng)分(fen),(,)被(bei)认(ren)为(wei)有(you)抗(kang)氧(yang)化(hua)的(de)作(zuo)用(yong),(,)可(ke)以(yi)帮(bang)助(zhu)肌(ji)肤(fu)抵(di)御(yu)衰(shuai)老(lao)。(。)许(xu)多(duo)爱(ai)美(mei)女(nv)性(xing)开(kai)始(shi)把(ba)栀(zhi)子(zi)提(ti)取(qu)物(wu)用(yong)于(yu)护(hu)肤(fu)品(pin)中(zhong),(,)以(yi)达(da)到(dao)更(geng)加(jia)光(guang)滑(hua)、(、)嫩(nen)白(bai)的(de)肌(ji)肤(fu)效(xiao)果(guo)。(。)另(ling)外(wai),(,)栀(zhi)子(zi)还(hai)可(ke)以(yi)帮(bang)助(zhu)改(gai)善(shan)睡(shui)眠(mian)质(zhi)量(liang)。(。)很(hen)多(duo)人(ren)都(dou)有(you)失(shi)眠(mian)的(de)困(kun)扰(rao),(,)而(er)栀(zhi)子(zi)可(ke)以(yi)帮(bang)助(zhu)安(an)神(shen)、(、)镇(zhen)静(jing),(,)对(dui)于(yu)那(na)些(xie)晚(wan)上(shang)翻(fan)来(lai)覆(fu)去(qu)的(de)人(ren)来(lai)说(shuo),(,)真(zhen)的(de)是(shi)一(yi)个(ge)温(wen)