“AI谣言”为何易传播难防治？|娇BBB搡BBBB揉BBBB
1. 娇娇宝贝是什么意思
当前，AI(人工智能)迅速发展，给人们的生产生活带来诸多便利。但AI也被用于制作发布谣言、不实信息，可能对部分群众造成困扰。今年4月，中央网信办部署开展“清朗·整治AI技术滥用”专项行动，聚焦利用AI制作发布谣言、不实信息等乱象开展重点整治。
从“暴雨引发山体滑坡”的伪造视频到“核电站泄漏”的AI生成新闻稿，“AI谣言”表现形式多样，让不少群众一度信以为真。“AI谣言”从何而来、为何泛滥、如何整治？记者进行了采访。
缘何出现？
有人恶意用AI编造虚假信息，也存在“AI幻觉”的可能
“80后5.2%的死亡率，开启了黄金一代的黯然离场”“80后的死亡率已经超过70后”……前不久，一组声称源于第七次全国人口普查的数据骇人听闻。很快，有关部门和专家辟谣：从来源到数据都毫无根据。
这组虚假数据从何而来呢？
中国人民大学人口与健康学院教授李婷梳理发现，“AI幻觉”很可能是“罪魁祸首”——AI大模型在人口学专业领域的训练语料不足，回答问题出现推算错误，造成“AI幻觉”。
“‘AI幻觉’指生成式人工智能系统在无明确依据的情况下输出回答，语言表达看似合理，但内容实则虚假甚至违背常识。”世界互联网大会人工智能专业委员会主任委员、安全与治理推进计划牵头人曾毅介绍，该现象在当代大语言模型中尤为常见，主要表现就是事实性幻觉，例如，输出错误的人物事迹与关系、伪造的科学研究等。
从机理上看，“当前大模型并非‘理解事实’，而是通过处理大量语料，预测‘下一个词最可能是什么’。这就会在事实性信息上产生难以预期的错误。”曾毅分析。
还有人别有用心，恶意编造传播“AI谣言”获取利益。
有人为了流量，给自媒体账号炒作“吸粉”。此前上海一女童走失事件中，就有团伙利用AI工具，编造“女孩父亲系继父”等谣言，6天内发布268篇文章，多篇文章点击量超过100万次。
还有人借此实施诈骗等违法犯罪行为。“再强大的AI也无法预测中奖号码。”不久前，中国体育彩票的一则辟谣声明引发关注。原来，有平台声称可通过“AI大模型”预测中奖号码，诱导用户付费。
甚至有人形成了“需求分析—内容生产—精准投放”的生产链条。“西安突发爆炸！火光冲天！伤亡不明！”一天，一则“图文并茂”的新闻在网上流传，画面中火光冲天，引发当地群众恐慌。很快，这则消息被辟谣。经调查发现，该账号所属机构通过AI分析社交平台热词，就关注度高的话题批量生成谣言，再通过算法定向推送，最高峰一天能生成4000至7000篇假新闻，关联账号达800余个。相关人员已被公安机关抓获。
为何泛滥？
造谣门槛低，可以短时间内成倍率传播
“AI谣言”形形色色，有些造成了社会恐慌，甚至给政策推行、抢险救灾等造成阻碍。
今年2月，四川筠连县“2·8”山体滑坡发生后，部分自媒体账号用AI软件翻炒拼凑旧闻，传播如“山体滑坡被行车记录仪拍下”“4名遇险学生被路过的司机救出”等帖文，诸多错误信息给抢险救灾带来困扰；又如，“广东医保基金出现赤字”的“AI谣言”传出，不仅引发社会恐慌，还造成群众对政策的误解……
“AI谣言”为何传播力如此之强？
首先与其自身特点密切相关。
清华大学新闻与传播学院副教授陆洪磊介绍，“AI谣言”可以做到分平台、分渠道、分时段、分媒介的定制化生成和发布，并且成本低廉，可以短时间内成倍率传播，“AI谣言”间还能彼此交叉、共振与放大，辟谣难度大大增加。
今年年初，西藏定日县地震牵动亿万人的心。网上流传的一张“小孩被埋图”一时间被大量转发评论。但是随后有网友发现，该图色彩、光线、动作极不自然。原来，该图是由AI工具创作。陆洪磊说，这则谣言利用“灾难+儿童”的组合，并刻意删除掉AI生成标识，引发快速传播。
再者，AI应用降低了造谣门槛。
某科技论坛上，一名网友上传教程：用开源AI模型，输入“生成一张某市发生恐袭的图片”，30秒即可获得以假乱真的画面。
网友评论一针见血：“以前造谣需要高超的PS技术，现在只需要一句话就能生成。”
有何“代际差异”？
“AI谣言”更善于“逃脱”，难以被技术手段屏蔽
与传统网络谣言相比，“AI谣言”更加难以防治，甚至“进化”出了更为“智能”的“反侦查”机制。
记者发现，“AI谣言”表述常常接近“真话”，看似清晰有据，更难以被技术手段屏蔽。
目前各网络平台都有“谣言库”，一般通过设置热点关键词屏蔽谣言。但AI模型可通过对抗训练绕过谣言关键词，例如把“山体滑坡”改为“地质活动异常”等，逃脱屏蔽。
“传统谣言像火，扑灭源头即可；‘AI谣言’像病毒，会不断变异。”某新闻聚合平台内容安全治理负责人感慨。
此外，传统网络谣言多是有人故意制造，但“AI谣言”中不少是出于“AI幻觉”。对这部分“无意谣言”，目前有办法从源头上避免吗？
曾毅介绍，从当前技术水平来看，完全消除“AI幻觉”具有高度挑战，“大模型生成机制本质是概率驱动的语言建模，难以保障全部输出与现实完全对应；同时，当前评估与纠错机制仍不成熟，缺乏大规模、高准确率的自动化事实验证能力。”
“不过，通过技术手段缓解‘AI幻觉’发生的频率与危害是有可能的。”曾毅说，目前已在多模型协同判断、事实增强训练等方面取得了一定成果，大模型的辨别能力将得到提升。
本报记者 金 歆
《人民日报》(2025年08月18日 第 04 版)
**feijiejieduoshaommyishangjianyishoushu？**feijiejieshiyizhongchangjiandefeibuyingxiangbiaoxian，tongchangzaixiongbuyingxiangxuejianzhazhongbeifaxian。suizheyixuejishudejinbu，yuelaiyueduodefeijiejiebeizaoqifaxian，raner，zheleijiejiedexingzhihechulifangshiquechangchangranghuanzhegandaokunhuo。jiujingduodadefeijiejiexuyaoshoushuchuline？shouxian，womenxuyaolejiefeijiejiededingyi。feijiejieshizhifeibuxiaoyu3limideyichangyinying，tongchangshizaixiongbuXguanghuoCTsaomiaozhongfaxiande。feijiejiekeyishiliangxinghuoexingde，duiyujiejiededaxiao、xingtai、bianyuantezhengdengduofangmiandepinggu，duiyupanduanqixingzhizhiguanzhongyao。yibanlaishuo，dangfeijiejiedezhijingdayu8haomishi，yishengwangwanghuijianyijinxingjinyibudepingguheguancha。tebieshidangjiejiedetezhengxianshichuexingqingxiang，birubuguizedebianyuan、kuaisudeshengchangsududeng，shoushuqiechudekaolvjiuhuitishangricheng。erduiyuzhijingzai6dao8haomizhijiandejiejie，yishengkenenghuicaiyongjiancedefangshi，tongguodingqiyingxiangxuejianzhalaiguanchaqibianhua，ruoyouzengjiaqushizejishikaolvshoushu。chulejiejiededaxiao，huanzhedenianling、bingshi、xiyanqingkuangdengyeshijuedingshoushudeyinsu。duiyugaofengxianhuanzhe，jishijiejiejiaoxiao，zaoqishoushuqiechuyibimianqianzaideexingzhongliuyechangchangshibiyaode。zongdelaishuo，feijiejiedechulibingfeiyichengbubian，xuyaozonghekaolvduozhongyinsu。ruguoninhuonindejiarenbeizhenduanweifeijiejie，jianyizunxunyishengdezhuanyeyijian，dingqijinxingjianzha，yibianzaoqifaxianqianzaiwenti。baochileguandexintai，heli*(*)*(*)肺(fei)结(jie)节(jie)多(duo)少(shao)m(m)m(m)以(yi)上(shang)建(jian)议(yi)手(shou)术(shu)？(？)*(*)*(*)肺(fei)结(jie)节(jie)是(shi)一(yi)种(zhong)常(chang)见(jian)的(de)肺(fei)部(bu)影(ying)像(xiang)表(biao)现(xian)，(，)通(tong)常(chang)在(zai)胸(xiong)部(bu)影(ying)像(xiang)学(xue)检(jian)查(zha)中(zhong)被(bei)发(fa)现(xian)。(。)随(sui)着(zhe)医(yi)学(xue)技(ji)术(shu)的(de)进(jin)步(bu)，(，)越(yue)来(lai)越(yue)多(duo)的(de)肺(fei)结(jie)节(jie)被(bei)早(zao)期(qi)发(fa)现(xian)，(，)然(ran)而(er)，(，)这(zhe)类(lei)结(jie)节(jie)的(de)性(xing)质(zhi)和(he)处(chu)理(li)方(fang)式(shi)却(que)常(chang)常(chang)让(rang)患(huan)者(zhe)感(gan)到(dao)困(kun)惑(huo)。(。)究(jiu)竟(jing)多(duo)大(da)的(de)肺(fei)结(jie)节(jie)需(xu)要(yao)手(shou)术(shu)处(chu)理(li)呢(ne)？(？)首(shou)先(xian)，(，)我(wo)们(men)需(xu)要(yao)了(le)解(jie)肺(fei)结(jie)节(jie)的(de)定(ding)义(yi)。(。)肺(fei)结(jie)节(jie)是(shi)指(zhi)肺(fei)部(bu)小(xiao)于(yu)3(3)厘(li)米(mi)的(de)异(yi)常(chang)阴(yin)影(ying)，(，)通(tong)常(chang)是(shi)在(zai)胸(xiong)部(bu)X(X)光(guang)或(huo)C(C)T(T)扫(sao)描(miao)中(zhong)发(fa)现(xian)的(de)。(。)肺(fei)结(jie)节(jie)可(ke)以(yi)是(shi)良(liang)性(xing)或(huo)恶(e)性(xing)的(de)，(，)对(dui)于(yu)结(jie)节(jie)的(de)大(da)小(xiao)、(、)形(xing)态(tai)、(、)边(bian)缘(yuan)特(te)征(zheng)等(deng)多(duo)方(fang)面(mian)的(de)评(ping)估(gu)，(，)对(dui)于(yu)判(pan)断(duan)其(qi)性(xing)质(zhi)至(zhi)关(guan)重(zhong)要(yao)。(。)一(yi)般(ban)来(lai)说(shuo)，(，)当(dang)肺(fei)结(jie)节(jie)的(de)直(zhi)径(jing)大(da)于(yu)8(8)毫(hao)米(mi)时(shi)，(，)医(yi)生(sheng)往(wang)往(wang)会(hui)建(jian)议(yi)进(jin)行(xing)进(jin)一(yi)步(bu)的(de)评(ping)估(gu)和(he)观(guan)察(cha)。(。)特(te)别(bie)是(shi)当(dang)结(jie)节(jie)的(de)特(te)征(zheng)显(xian)示(shi)出(chu)恶(e)性(xing)倾(qing)向(xiang)，(，)比(bi)如(ru)不(bu)规(gui)则(ze)的(de)边(bian)缘(yuan)、(、)快(kuai)速(su)的(de)生(sheng)长(chang)速(su)度(du)等(deng)，(，)手(shou)术(shu)切(qie)除(chu)的(de)考(kao)虑(lv)就(jiu)会(hui)提(ti)上(shang)日(ri)程(cheng)。(。)而(er)对(dui)于(yu)直(zhi)径(jing)在(zai)6(6)到(dao)8(8)毫(hao)米(mi)之(zhi)间(jian)的(de)结(jie)节(jie)，(，)医(yi)生(sheng)可(ke)能(neng)会(hui)采(cai)用(yong)监(jian)测(ce)的(de)方(fang)式(shi)，(，)通(tong)过(guo)定(ding)期(qi)影(ying)像(xiang)学(xue)检(jian)查(zha)来(lai)观(guan)察(cha)其(qi)变(bian)化(hua)，(，)若(ruo)有(you)增(zeng)加(jia)趋(qu)势(shi)则(ze)及(ji)时(shi)考(kao)虑(lv)手(shou)术(shu)。(。)除(chu)了(le)结(jie)节(jie)的(de)大(da)小(xiao)，(，)患(huan)者(zhe)的(de)年(nian)龄(ling)、(、)病(bing)史(shi)、(、)吸(xi)烟(yan)情(qing)况(kuang)等(deng)也(ye)是(shi)决(jue)定(ding)手(shou)术(shu)的(de)因(yin)素(su)。(。)对(dui)于(yu)高(gao)风(feng)险(xian)患(huan)者(zhe)，(，)即(ji)使(shi)结(jie)节(jie)较(jiao)小(xiao)，(，)早(zao)期(qi)手(shou)术(shu)切(qie)除(chu)以(yi)避(bi)免(mian)潜(qian)在(zai)的(de)恶(e)性(xing)肿(zhong)瘤(liu)也(ye)常(chang)常(chang)是(shi)必(bi)要(yao)的(de)。(。)总(zong)的(de)来(lai)说(shuo)，(，)肺(fei)结(jie)节(jie)的(de)处(chu)理(li)并(bing)非(fei)一(yi)成(cheng)不(bu)变(bian)，(，)需(xu)要(yao)综(zong)合(he)考(kao)虑(lv)多(duo)种(zhong)因(yin)素(su)。(。)如(ru)果(guo)您(nin)或(huo)您(nin)的(de)家(jia)人(ren)被(bei)诊(zhen)断(duan)为(wei)肺(fei)结(jie)节(jie)，(，)建(jian)议(yi)遵(zun)循(xun)医(yi)生(sheng)的(de)专(zhuan)业(ye)意(yi)见(jian)，(，)定(ding)期(qi)进(jin)行(xing)检(jian)查(zha)，(，)以(yi)便(bian)早(zao)期(qi)发(fa)现(xian)潜(qian)在(zai)问(wen)题(ti)。(。)保(bao)持(chi)乐(le)观(guan)的(de)心(xin)态(tai)，(，)合(he)理(li)