图片“随心定制” AI时代的真伪博弈|亚洲国产精品热久久
平台管理效果参差不齐 “去水印”即可绕过监管
AI时代的真伪博弈
近日,安徽一名女子使用AI工具生成了高度逼真的“流浪汉卧坐餐厅”等图片,发送给在外聚餐的丈夫,本想测试其反应,不料丈夫信以为真,当即报警求助。
民警现场核实情况,确认是虚假信息,对该女子的行为进行了提醒:“AI技术生成的内容虽逼真,但以此制造恐慌并引发警方出警,属于浪费公共资源的行为。”
类似由AI生成图片引发的“乌龙事件”并非个例:广东广州某小区业主的孩子用AI生成图片后发给父母称“流浪汉试图闯进家门”,图片被转到业主群后引起楼栋业主恐慌;近日,多名电商平台卖家曝光,有消费者利用AI工具生成商品变质、损坏的图片,以此申请“仅退款”;山东威海网民张某为博取关注,使用AI工具编造“在监狱直播带货”图片的谣言信息并发布,引发大量网民关注讨论,张某因扰乱公共秩序已被公安机关处以行政处罚。
今年9月1日,《人工智能生成合成内容标识办法》正式实施,要求人工智能生成合成内容应当通过显著标识、数字水印等方式进行显式与隐式标注,以保障内容的可识别性。这标志着,AI生成内容全面进入“持证上岗”时代。
然而,《法治日报》记者近日对多个主流平台展开的调查显示,新规落地效果参差不齐,仍有大量未标识内容在各大平台持续传播。这些愈发逼真的AI生成图无标识“裸奔”,使“有图有真相”的传统认知面临挑战,公众难辨真伪。
AI图片“随心定制”
记者在调查中发现,如今网络上存在多款AI制图软件,一些社交平台甚至自带AI生成图功能。只需上传相关人物、背景素材,输入一句指令,短短几秒便能生成一张几可乱真的AI图片,还可随意按照个人喜好对图片的细节和内容进行调整。
受访专家指出,如今AI生成图片或视频已很难从面部表情、肢体结构等方面识别真伪,如果不对内容作显著标识,很容易让人信以为真。
为调查平台与创作者对AI生成内容的实际标注情况,记者在一周时间内于6个主流短视频平台及社交平台的推荐页面,分别随机浏览并记录了100条AI生成或高度疑似AI生成的视频内容,并就其标注情况展开记录。
经统计,在随机浏览的视频中,约有60%的视频附有作者主动标注的AI创作声明;约30%虽未获作者标注,但被平台在显著位置标识为“内容可能为AI生成”。然而,在各大平台中,仍有部分高度疑似AI生成的视频,既无作者标识,也无平台提示。
以某短视频平台一个拥有30多万名粉丝的账号为例,其发布的内容多以萌宠、儿童和农村生活为主题。其置顶的3条视频,内容均呈现明显的AI生成痕迹:小狗轻易撞破机场玻璃;行李箱的颜色瞬间变化;数十名长相雷同、头身比例严重失调的婴儿一边走一边喊“奶奶”。然而,其中仅1条在视频右下角有AI创作标识。
在该账号的首页介绍中,明确附有其私人社交账号,并注明“可学习教学”。记者添加该账号私聊咨询后,对方承认所有内容均为AI生成,并表示“120元即可获取提示词以及全套教程,包教包会”“制作一条AI视频仅需十几分钟”。
靠AI生成内容引流卖货
此外,AI生成内容也被用于引流与商业推广。
“在××(地名),女儿已经过上了普通人里最好的生活”。近日,在某社交平台中,记者频繁刷到以此为标题的帖文。不同的帖文中,这个地名被换成北京、长沙、珠海等不同城市。
在这些帖文中,孩子父母的“人设”高度一致:爸爸做生意、妈妈在国企工作,父母学历均为985本/硕。虽然是不同账号发布的内容,但文案几乎完全雷同,均为教育经验分享或情感激励类内容,极易引发家长群体的共鸣。
这类帖文的配图普遍采用父母和孩子在校门前或景点前的合照。尽管账号的IP地址显示在不同地区,且背景不断变化,但画面中父母和孩子的形象高度一致。
同一张脸、同一个家庭,却有多段“精彩人生”?记者下载相关帖文照片后发送给多个AI软件询问“是否为真实图片”,得出的结论是“背景元素存在逻辑冲突、人物细节有AI特征,高度疑似AI生成图”。
然而,平台并未对这些图片添加提示AI生成的相关内容,图片本身也未包含任何水印标注。
记者进一步观察发现,这些账号用AI生成图塑造“成功家庭”形象的目的实为兜售课程。在某账号发布的帖文中,其表示“成功家庭”的核心秘诀是孩子的教育,进而围绕塑造孩子数学思维,展开长篇论述。评论区内不少网友留言“求推数学思维课”。记者咨询后,对方发来某数学课程商家账号,该账号经营的店铺内售卖标价为5450元的新数理课程。
值得注意的是,部分账号的主页直接关联某些线上教育机构的官方账号,并在后缀标注“产品体验官”“规划师”等身份标识。这类绑定关系显示出其内容与商业推广间的明确关联,客观上构成软性广告,但大多数家长往往难以辨别其营销性质。
除此之外,AI生成技术也被广泛应用于直播带货与商品展示。
某社交平台部分穿搭博主账号分享的内容中,AI生成特征较为明显:背景杂志上的人物和标题多为乱码、电梯场景中楼层按钮明显失真,并非真人实穿。然而,平台和博主均无任何关于AI生成的标注,博主还会通过评论区与用户积极互动:当粉丝询问服装链接时,博主会直接引导至商品橱窗;对于涉及身高、体重等个人特征的问题,博主也未提示任何AI生成属性。
在某购物平台上,多家销售睡莲的店铺均使用相同的商品宣传图,图片呈现明显的AI制作特征:背景失真、花朵呈半透明状。相关商品的买家评论最多达7万余条,而其评论区却几乎未见成功开花的反馈。在偶有的一些开花图片中,花朵数量和形态也与宣传图相差甚远。而上述商品宣传图中,均未出现AI生成图片的相应提示。
去标识就能“骗”过平台
为验证平台对AI内容的识别能力,记者购买了一款宣称“可去除品牌水印”的某AI软件会员,使用该软件可生成视频并进行去水印处理。随后,记者将有水印与无水印版本同时发布于4个主流社交平台,且均未主动标注AI创作。
调查结果显示,上述平台对有水印的版本均作出“含AI生成内容”的标识,对于无水印内容,仅有一个平台在后期补充了AI内容标识,并在后台私信发来风险提示外,其余平台均无提示。
为验证AI生成内容标识系统的实际有效性,记者对当前市面6款使用人数较多的生图软件展开调查。结果显示,虽然在内容生成时全部默认标注水印,但有些软件只要充值成为“高级会员”,即可解锁“去水印”功能。
此外,市面上存在多家提供低价去水印服务的商家。其中一款售价6元、宣传“终身包更新”的软件包,明确提示可去除图片与视频中的各类水印,并且不限使用时间和次数。
记者购买了该安装包进行实测,在按照要求完成软件安装后,发现仅需对水印位置进行简单涂抹,即可完整去除AI标识,且不破坏画面整体效果。随后,记者将去水印后的图片上传至4个社交平台进行验证,结果显示,这些原本带有AI水印的内容,在去除水印后均未触发任何平台的AI生成提示机制。
受访专家认为,平台在AI内容标识的落地执行方面还有很大的提升空间。不少网友把使用AI生成图视为娱乐或恶作剧,却忽视了背后可能存在扰乱社会治安、引发恐慌的风险。因此,在完善技术监管机制的同时,也要加强公众网络素养教育,提升公众对AI生成内容的辨识能力和社会责任意识。
本报记者 赵 丽
本报实习生 王艺霏
toubaokeluoganhunxuanjishiyizhongguangfanyingyongyulinchuangdekangshengsu,shuyudierdaitoubaojunsuleiyaowu,zhuyaoyongyuzhiliaoyouminganxijunsuoyinqidegezhongganran。qizhuyaochengfenweitoubaokeluo,juyoulianghaodekangjunpu,nenggouyouxiaoduikangduozhonggelanyangxingjunhebufengelanyinxingjun。toubaokeluojuyoulianghaodekoufushengwuliyongdu,bingqieqiyaowudaixiexiangduijiaokuai,tongchangzaifuyonghou1-2xiaoshineidadaoxueyaonongdudegaofeng。yinci,yishengchangchangtuijianjiangqiyongyushanghuxidaoganran、xiahuxidaoganran、niaoluganran、pifuheruanzuzhiganrandengduozhongganranxingjibingdezhiliao。shiyongtoubaokeluoganhunxuanjishi,xuyaozhuyideshi,huanzheyingyangeanzhaoyishengdezhishijinxingfuyong,bingzhuyijiliangtiaozheng。zaifuyaoguochengzhong,huanzhekenenghuichuxianyixiefuzuoyong,ruweichangdaofanying(ruexin、outu、fuxiedeng),guominfanying(rupizhen、saoyangdeng)deng。ruguohuanzhechuxianyanzhongdeguominfanying,ruhuxikunnan、mianbuzhongzhangdengzhengzhuang,yinglijijiuyi。weilequebaozhiliaoxiaoguo,huanzhezaifuyongtoubaokeluoshi,yingzhuyiyuqitayaowudexianghuzuoyong。toubaokeluoyumouxieleiyaowulianheshiyongshi,kenenghuizengqianghuojianruoqiliaoxiao。huanzhezaifuyaoqianyingjiangzijideyongyaoshigaozhiyisheng,yibianyishengzuochuqiadangdezhiliaojueding。toubaokeluoganhunxuanjideshiyongyexuyaojiehehuanzhedejutibingqingyijibingyuanjundeminganxingjinxinggetihuatiaozheng。zaimouxieqingkuangxia,yishengkenenghuijinxing头(tou)孢(bao)克(ke)洛(luo)干(gan)混(hun)悬(xuan)剂(ji)是(shi)一(yi)种(zhong)广(guang)泛(fan)应(ying)用(yong)于(yu)临(lin)床(chuang)的(de)抗(kang)生(sheng)素(su),(,)属(shu)于(yu)第(di)二(er)代(dai)头(tou)孢(bao)菌(jun)素(su)类(lei)药(yao)物(wu),(,)主(zhu)要(yao)用(yong)于(yu)治(zhi)疗(liao)由(you)敏(min)感(gan)细(xi)菌(jun)所(suo)引(yin)起(qi)的(de)各(ge)种(zhong)感(gan)染(ran)。(。)其(qi)主(zhu)要(yao)成(cheng)分(fen)为(wei)头(tou)孢(bao)克(ke)洛(luo),(,)具(ju)有(you)良(liang)好(hao)的(de)抗(kang)菌(jun)谱(pu),(,)能(neng)够(gou)有(you)效(xiao)对(dui)抗(kang)多(duo)种(zhong)革(ge)兰(lan)阳(yang)性(xing)菌(jun)和(he)部(bu)分(fen)革(ge)兰(lan)阴(yin)性(xing)菌(jun)。(。)头(tou)孢(bao)克(ke)洛(luo)具(ju)有(you)良(liang)好(hao)的(de)口(kou)服(fu)生(sheng)物(wu)利(li)用(yong)度(du),(,)并(bing)且(qie)其(qi)药(yao)物(wu)代(dai)谢(xie)相(xiang)对(dui)较(jiao)快(kuai),(,)通(tong)常(chang)在(zai)服(fu)用(yong)后(hou)1(1)-(-)2(2)小(xiao)时(shi)内(nei)达(da)到(dao)血(xue)药(yao)浓(nong)度(du)的(de)高(gao)峰(feng)。(。)因(yin)此(ci),(,)医(yi)生(sheng)常(chang)常(chang)推(tui)荐(jian)将(jiang)其(qi)用(yong)于(yu)上(shang)呼(hu)吸(xi)道(dao)感(gan)染(ran)、(、)下(xia)呼(hu)吸(xi)道(dao)感(gan)染(ran)、(、)尿(niao)路(lu)感(gan)染(ran)、(、)皮(pi)肤(fu)和(he)软(ruan)组(zu)织(zhi)感(gan)染(ran)等(deng)多(duo)种(zhong)感(gan)染(ran)性(xing)疾(ji)病(bing)的(de)治(zhi)疗(liao)。(。)使(shi)用(yong)头(tou)孢(bao)克(ke)洛(luo)干(gan)混(hun)悬(xuan)剂(ji)时(shi),(,)需(xu)要(yao)注(zhu)意(yi)的(de)是(shi),(,)患(huan)者(zhe)应(ying)严(yan)格(ge)按(an)照(zhao)医(yi)生(sheng)的(de)指(zhi)示(shi)进(jin)行(xing)服(fu)用(yong),(,)并(bing)注(zhu)意(yi)剂(ji)量(liang)调(tiao)整(zheng)。(。)在(zai)服(fu)药(yao)过(guo)程(cheng)中(zhong),(,)患(huan)者(zhe)可(ke)能(neng)会(hui)出(chu)现(xian)一(yi)些(xie)副(fu)作(zuo)用(yong),(,)如(ru)胃(wei)肠(chang)道(dao)反(fan)应(ying)((()如(ru)恶(e)心(xin)、(、)呕(ou)吐(tu)、(、)腹(fu)泻(xie)等(deng))()),(,)过(guo)敏(min)反(fan)应(ying)((()如(ru)皮(pi)疹(zhen)、(、)瘙(sao)痒(yang)等(deng))())等(deng)。(。)如(ru)果(guo)患(huan)者(zhe)出(chu)现(xian)严(yan)重(zhong)的(de)过(guo)敏(min)反(fan)应(ying),(,)如(ru)呼(hu)吸(xi)困(kun)难(nan)、(、)面(mian)部(bu)肿(zhong)胀(zhang)等(deng)症(zheng)状(zhuang),(,)应(ying)立(li)即(ji)就(jiu)医(yi)。(。)为(wei)了(le)确(que)保(bao)治(zhi)疗(liao)效(xiao)果(guo),(,)患(huan)者(zhe)在(zai)服(fu)用(yong)头(tou)孢(bao)克(ke)洛(luo)时(shi),(,)应(ying)注(zhu)意(yi)与(yu)其(qi)他(ta)药(yao)物(wu)的(de)相(xiang)互(hu)作(zuo)用(yong)。(。)头(tou)孢(bao)克(ke)洛(luo)与(yu)某(mou)些(xie)类(lei)药(yao)物(wu)联(lian)合(he)使(shi)用(yong)时(shi),(,)可(ke)能(neng)会(hui)增(zeng)强(qiang)或(huo)减(jian)弱(ruo)其(qi)疗(liao)效(xiao)。(。)患(huan)者(zhe)在(zai)服(fu)药(yao)前(qian)应(ying)将(jiang)自(zi)己(ji)的(de)用(yong)药(yao)史(shi)告(gao)知(zhi)医(yi)生(sheng),(,)以(yi)便(bian)医(yi)生(sheng)做(zuo)出(chu)恰(qia)当(dang)的(de)治(zhi)疗(liao)决(jue)定(ding)。(。)头(tou)孢(bao)克(ke)洛(luo)干(gan)混(hun)悬(xuan)剂(ji)的(de)使(shi)用(yong)也(ye)需(xu)要(yao)结(jie)合(he)患(huan)者(zhe)的(de)具(ju)体(ti)病(bing)情(qing)以(yi)及(ji)病(bing)原(yuan)菌(jun)的(de)敏(min)感(gan)性(xing)进(jin)行(xing)个(ge)体(ti)化(hua)调(tiao)整(zheng)。(。)在(zai)某(mou)些(xie)情(qing)况(kuang)下(xia),(,)医(yi)生(sheng)可(ke)能(neng)会(hui)进(jin)行(xing)