图片“随心定制” AI时代的真伪博弈|亚洲精品少妇久久久久久海角社区
平台管理效果参差不齐 “去水印”即可绕过监管
AI时代的真伪博弈
近日,安徽一名女子使用AI工具生成了高度逼真的“流浪汉卧坐餐厅”等图片,发送给在外聚餐的丈夫,本想测试其反应,不料丈夫信以为真,当即报警求助。
民警现场核实情况,确认是虚假信息,对该女子的行为进行了提醒:“AI技术生成的内容虽逼真,但以此制造恐慌并引发警方出警,属于浪费公共资源的行为。”
类似由AI生成图片引发的“乌龙事件”并非个例:广东广州某小区业主的孩子用AI生成图片后发给父母称“流浪汉试图闯进家门”,图片被转到业主群后引起楼栋业主恐慌;近日,多名电商平台卖家曝光,有消费者利用AI工具生成商品变质、损坏的图片,以此申请“仅退款”;山东威海网民张某为博取关注,使用AI工具编造“在监狱直播带货”图片的谣言信息并发布,引发大量网民关注讨论,张某因扰乱公共秩序已被公安机关处以行政处罚。
今年9月1日,《人工智能生成合成内容标识办法》正式实施,要求人工智能生成合成内容应当通过显著标识、数字水印等方式进行显式与隐式标注,以保障内容的可识别性。这标志着,AI生成内容全面进入“持证上岗”时代。
然而,《法治日报》记者近日对多个主流平台展开的调查显示,新规落地效果参差不齐,仍有大量未标识内容在各大平台持续传播。这些愈发逼真的AI生成图无标识“裸奔”,使“有图有真相”的传统认知面临挑战,公众难辨真伪。
AI图片“随心定制”
记者在调查中发现,如今网络上存在多款AI制图软件,一些社交平台甚至自带AI生成图功能。只需上传相关人物、背景素材,输入一句指令,短短几秒便能生成一张几可乱真的AI图片,还可随意按照个人喜好对图片的细节和内容进行调整。
受访专家指出,如今AI生成图片或视频已很难从面部表情、肢体结构等方面识别真伪,如果不对内容作显著标识,很容易让人信以为真。
为调查平台与创作者对AI生成内容的实际标注情况,记者在一周时间内于6个主流短视频平台及社交平台的推荐页面,分别随机浏览并记录了100条AI生成或高度疑似AI生成的视频内容,并就其标注情况展开记录。
经统计,在随机浏览的视频中,约有60%的视频附有作者主动标注的AI创作声明;约30%虽未获作者标注,但被平台在显著位置标识为“内容可能为AI生成”。然而,在各大平台中,仍有部分高度疑似AI生成的视频,既无作者标识,也无平台提示。
以某短视频平台一个拥有30多万名粉丝的账号为例,其发布的内容多以萌宠、儿童和农村生活为主题。其置顶的3条视频,内容均呈现明显的AI生成痕迹:小狗轻易撞破机场玻璃;行李箱的颜色瞬间变化;数十名长相雷同、头身比例严重失调的婴儿一边走一边喊“奶奶”。然而,其中仅1条在视频右下角有AI创作标识。
在该账号的首页介绍中,明确附有其私人社交账号,并注明“可学习教学”。记者添加该账号私聊咨询后,对方承认所有内容均为AI生成,并表示“120元即可获取提示词以及全套教程,包教包会”“制作一条AI视频仅需十几分钟”。
靠AI生成内容引流卖货
此外,AI生成内容也被用于引流与商业推广。
“在××(地名),女儿已经过上了普通人里最好的生活”。近日,在某社交平台中,记者频繁刷到以此为标题的帖文。不同的帖文中,这个地名被换成北京、长沙、珠海等不同城市。
在这些帖文中,孩子父母的“人设”高度一致:爸爸做生意、妈妈在国企工作,父母学历均为985本/硕。虽然是不同账号发布的内容,但文案几乎完全雷同,均为教育经验分享或情感激励类内容,极易引发家长群体的共鸣。
这类帖文的配图普遍采用父母和孩子在校门前或景点前的合照。尽管账号的IP地址显示在不同地区,且背景不断变化,但画面中父母和孩子的形象高度一致。
同一张脸、同一个家庭,却有多段“精彩人生”?记者下载相关帖文照片后发送给多个AI软件询问“是否为真实图片”,得出的结论是“背景元素存在逻辑冲突、人物细节有AI特征,高度疑似AI生成图”。
然而,平台并未对这些图片添加提示AI生成的相关内容,图片本身也未包含任何水印标注。
记者进一步观察发现,这些账号用AI生成图塑造“成功家庭”形象的目的实为兜售课程。在某账号发布的帖文中,其表示“成功家庭”的核心秘诀是孩子的教育,进而围绕塑造孩子数学思维,展开长篇论述。评论区内不少网友留言“求推数学思维课”。记者咨询后,对方发来某数学课程商家账号,该账号经营的店铺内售卖标价为5450元的新数理课程。
值得注意的是,部分账号的主页直接关联某些线上教育机构的官方账号,并在后缀标注“产品体验官”“规划师”等身份标识。这类绑定关系显示出其内容与商业推广间的明确关联,客观上构成软性广告,但大多数家长往往难以辨别其营销性质。
除此之外,AI生成技术也被广泛应用于直播带货与商品展示。
某社交平台部分穿搭博主账号分享的内容中,AI生成特征较为明显:背景杂志上的人物和标题多为乱码、电梯场景中楼层按钮明显失真,并非真人实穿。然而,平台和博主均无任何关于AI生成的标注,博主还会通过评论区与用户积极互动:当粉丝询问服装链接时,博主会直接引导至商品橱窗;对于涉及身高、体重等个人特征的问题,博主也未提示任何AI生成属性。
在某购物平台上,多家销售睡莲的店铺均使用相同的商品宣传图,图片呈现明显的AI制作特征:背景失真、花朵呈半透明状。相关商品的买家评论最多达7万余条,而其评论区却几乎未见成功开花的反馈。在偶有的一些开花图片中,花朵数量和形态也与宣传图相差甚远。而上述商品宣传图中,均未出现AI生成图片的相应提示。
去标识就能“骗”过平台
为验证平台对AI内容的识别能力,记者购买了一款宣称“可去除品牌水印”的某AI软件会员,使用该软件可生成视频并进行去水印处理。随后,记者将有水印与无水印版本同时发布于4个主流社交平台,且均未主动标注AI创作。
调查结果显示,上述平台对有水印的版本均作出“含AI生成内容”的标识,对于无水印内容,仅有一个平台在后期补充了AI内容标识,并在后台私信发来风险提示外,其余平台均无提示。
为验证AI生成内容标识系统的实际有效性,记者对当前市面6款使用人数较多的生图软件展开调查。结果显示,虽然在内容生成时全部默认标注水印,但有些软件只要充值成为“高级会员”,即可解锁“去水印”功能。
此外,市面上存在多家提供低价去水印服务的商家。其中一款售价6元、宣传“终身包更新”的软件包,明确提示可去除图片与视频中的各类水印,并且不限使用时间和次数。
记者购买了该安装包进行实测,在按照要求完成软件安装后,发现仅需对水印位置进行简单涂抹,即可完整去除AI标识,且不破坏画面整体效果。随后,记者将去水印后的图片上传至4个社交平台进行验证,结果显示,这些原本带有AI水印的内容,在去除水印后均未触发任何平台的AI生成提示机制。
受访专家认为,平台在AI内容标识的落地执行方面还有很大的提升空间。不少网友把使用AI生成图视为娱乐或恶作剧,却忽视了背后可能存在扰乱社会治安、引发恐慌的风险。因此,在完善技术监管机制的同时,也要加强公众网络素养教育,提升公众对AI生成内容的辨识能力和社会责任意识。
本报记者 赵 丽
本报实习生 王艺霏
#jiandongzhengshishenmebing?lejiezhegehanjianjibingdezhenxiangzuijinpengyouquanlichangchangnengkandaoguanyujiandongzhengdehuati,henduoxiaohuobanmenduizhegecigandaojimoshengyouhaoqi。jintian,jiulaigendajialiaoliaojiandongzhengjiujingshishenmebing,beihouyoushenmegushi。jiandongzheng,zhengshimingchengweijiweisuocesuoyinghuazheng(ALS),shiyizhongshenjingxitongdetuixingxingjibing。zhezhongbinghuizhujianqinshiwomendeyundongshenjingyuan,daozhijirouwuli、weisuo,zuizhongshihuanzheshiquyundongnengli。zhezhongbingdejinzhansuduyinreneryi,youderenkenengzaijinianneixunsuehua,youderenzekenengxiangduihuanman。jiandongzhengdefabingjizhizhijinshangbuwanquanqingchu,danyanjiubiaoming,yichuanyinsuhehuanjingyinsukenengdouhuiyingxiangtadefabinglv。jinguanruci,juedaduoshubinglidoumeiyoujiazushi,shuyusanfaxingbingli。ciwai,jiandongzhengtongchangzaizhongnianhouqi(40dao70sui)fabing,nanxingxiangduinvxinggengchangjian。suiranjiandongzhenghuanzhezaizaoqikenenghainengbaoliuyidingderenzhinengli,danshisuizhebingqingdefazhan,huanzhedeshenghuojiangbiandeyuelaiyuekunnan。tamenjiangzhujiansangshixingzou、shuohua、jinshidengjibenshenghuonengli,shenzhizaijibingdewanqi,lianhuxidoukenengxuyaoyikaorengonghuxijilaifuzhu。mianduiruciyanjundebingzheng,youhenduozhiyuanzhehegongyizuzhizaijijizhiliyujiandongzhengdeyanjiuhehuanzheguanhuai。biru,dajiashuzhide“bingtongtiaozhan”,jiushiweiletigaorenmenduijiandongzhengdeguanzhuhelejie,mujiyanjiuzijin。zheyihuodongchenggongxiyinlequanqiufanweineidecanyu,ranggengduorenyishidaozhegewentideyanzhongxinghejinpoxing。#(#)渐(jian)冻(dong)症(zheng)是(shi)什(shen)么(me)病(bing)?(?)了(le)解(jie)这(zhe)个(ge)罕(han)见(jian)疾(ji)病(bing)的(de)真(zhen)相(xiang)最(zui)近(jin)朋(peng)友(you)圈(quan)里(li)常(chang)常(chang)能(neng)看(kan)到(dao)关(guan)于(yu)渐(jian)冻(dong)症(zheng)的(de)话(hua)题(ti),(,)很(hen)多(duo)小(xiao)伙(huo)伴(ban)们(men)对(dui)这(zhe)个(ge)词(ci)感(gan)到(dao)既(ji)陌(mo)生(sheng)又(you)好(hao)奇(qi)。(。)今(jin)天(tian),(,)就(jiu)来(lai)跟(gen)大(da)家(jia)聊(liao)聊(liao)渐(jian)冻(dong)症(zheng)究(jiu)竟(jing)是(shi)什(shen)么(me)病(bing),(,)背(bei)后(hou)有(you)什(shen)么(me)故(gu)事(shi)。(。)渐(jian)冻(dong)症(zheng),(,)正(zheng)式(shi)名(ming)称(cheng)为(wei)肌(ji)萎(wei)缩(suo)侧(ce)索(suo)硬(ying)化(hua)症(zheng)((()A(A)L(L)S(S))()),(,)是(shi)一(yi)种(zhong)神(shen)经(jing)系(xi)统(tong)的(de)退(tui)行(xing)性(xing)疾(ji)病(bing)。(。)这(zhe)种(zhong)病(bing)会(hui)逐(zhu)渐(jian)侵(qin)蚀(shi)我(wo)们(men)的(de)运(yun)动(dong)神(shen)经(jing)元(yuan),(,)导(dao)致(zhi)肌(ji)肉(rou)无(wu)力(li)、(、)萎(wei)缩(suo),(,)最(zui)终(zhong)使(shi)患(huan)者(zhe)失(shi)去(qu)运(yun)动(dong)能(neng)力(li)。(。)这(zhe)种(zhong)病(bing)的(de)进(jin)展(zhan)速(su)度(du)因(yin)人(ren)而(er)异(yi),(,)有(you)的(de)人(ren)可(ke)能(neng)在(zai)几(ji)年(nian)内(nei)迅(xun)速(su)恶(e)化(hua),(,)有(you)的(de)人(ren)则(ze)可(ke)能(neng)相(xiang)对(dui)缓(huan)慢(man)。(。)渐(jian)冻(dong)症(zheng)的(de)发(fa)病(bing)机(ji)制(zhi)至(zhi)今(jin)尚(shang)不(bu)完(wan)全(quan)清(qing)楚(chu),(,)但(dan)研(yan)究(jiu)表(biao)明(ming),(,)遗(yi)传(chuan)因(yin)素(su)和(he)环(huan)境(jing)因(yin)素(su)可(ke)能(neng)都(dou)会(hui)影(ying)响(xiang)它(ta)的(de)发(fa)病(bing)率(lv)。(。)尽(jin)管(guan)如(ru)此(ci),(,)绝(jue)大(da)多(duo)数(shu)病(bing)例(li)都(dou)没(mei)有(you)家(jia)族(zu)史(shi),(,)属(shu)于(yu)散(san)发(fa)性(xing)病(bing)例(li)。(。)此(ci)外(wai),(,)渐(jian)冻(dong)症(zheng)通(tong)常(chang)在(zai)中(zhong)年(nian)后(hou)期(qi)((()4(4)0到(dao)7(7)0岁(sui))())发(fa)病(bing),(,)男(nan)性(xing)相(xiang)对(dui)女(nv)性(xing)更(geng)常(chang)见(jian)。(。)虽(sui)然(ran)渐(jian)冻(dong)症(zheng)患(huan)者(zhe)在(zai)早(zao)期(qi)可(ke)能(neng)还(hai)能(neng)保(bao)留(liu)一(yi)定(ding)的(de)认(ren)知(zhi)能(neng)力(li),(,)但(dan)是(shi)随(sui)着(zhe)病(bing)情(qing)的(de)发(fa)展(zhan),(,)患(huan)者(zhe)的(de)生(sheng)活(huo)将(jiang)变(bian)得(de)越(yue)来(lai)越(yue)困(kun)难(nan)。(。)他(ta)们(men)将(jiang)逐(zhu)渐(jian)丧(sang)失(shi)行(xing)走(zou)、(、)说(shuo)话(hua)、(、)进(jin)食(shi)等(deng)基(ji)本(ben)生(sheng)活(huo)能(neng)力(li),(,)甚(shen)至(zhi)在(zai)疾(ji)病(bing)的(de)晚(wan)期(qi),(,)连(lian)呼(hu)吸(xi)都(dou)可(ke)能(neng)需(xu)要(yao)依(yi)靠(kao)人(ren)工(gong)呼(hu)吸(xi)机(ji)来(lai)辅(fu)助(zhu)。(。)面(mian)对(dui)如(ru)此(ci)严(yan)峻(jun)的(de)病(bing)症(zheng),(,)有(you)很(hen)多(duo)志(zhi)愿(yuan)者(zhe)和(he)公(gong)益(yi)组(zu)织(zhi)在(zai)积(ji)极(ji)致(zhi)力(li)于(yu)渐(jian)冻(dong)症(zheng)的(de)研(yan)究(jiu)和(he)患(huan)者(zhe)关(guan)怀(huai)。(。)比(bi)如(ru),(,)大(da)家(jia)熟(shu)知(zhi)的(de)“(“)冰(bing)桶(tong)挑(tiao)战(zhan)”(”),(,)就(jiu)是(shi)为(wei)了(le)提(ti)高(gao)人(ren)们(men)对(dui)渐(jian)冻(dong)症(zheng)的(de)关(guan)注(zhu)和(he)了(le)解(jie),(,)募(mu)集(ji)研(yan)究(jiu)资(zi)金(jin)。(。)这(zhe)一(yi)活(huo)动(dong)成(cheng)功(gong)吸(xi)引(yin)了(le)全(quan)球(qiu)范(fan)围(wei)内(nei)的(de)参(can)与(yu),(,)让(rang)更(geng)多(duo)人(ren)意(yi)识(shi)到(dao)这(zhe)个(ge)问(wen)题(ti)的(de)严(yan)重(zhong)性(xing)和(he)紧(jin)迫(po)性(xing)。(。)