AI带货视频“批量化”生产 “AI李鬼”游走在灰色地带|国产乱子轮xxx农村

  一条视频中,两名“儿童”身着白色短袖,在阳光下开心地玩滑板。镜头一转,两人在动作交错时,身体竟然融合在一起,暴露出数字合成痕迹。

  今年“双11”期间,北京市民王欢在某社交平台刷到这条童装推广视频,深感诧异,直到看见角落一行“内容由AI生成”的提示,她才意识到孩子玩耍的画面是技术合成的。“这画面错得有些离谱,让人怎么相信商品的真实效果?”她疑惑地说。

  近来,商家利用AI技术带货的现象日益增多,有的出现违法违规情形:有借助名人效应,仿冒专家学者、奥运冠军、影视明星为产品站台;有冒充知名品牌误导消费者。不少消费者和粉丝难辨真伪,出于对“偶像”或“品牌”的信任下单,却没意识到背后潜藏的风险。

  这些游走在灰色地带的“AI李鬼”,涉嫌侵害当事者的肖像权以及消费者的知情权与选择权,对当下网络数字治理提出新挑战。

  AI带货视频“批量化”生产

  “两人穿透彼此身体,明显违背真实世界的物理规律,在行业中我们称之为‘穿模’。”资深AI技术人员蓝天说。

  他指出,当前主流AI视频生成模型,其核心逻辑是在海量数据训练基础上,具备较强的语言理解和图像生成能力,能够根据文本描述“画”出逼真画面。然而,对于真实世界中复杂的物理规律,如重力、碰撞、物体间的不可穿透性等,AI仍缺乏深刻的感知与预测能力。

  “‘穿模’是AI生成视频中的典型漏洞,反映了当前技术在处理复杂动态场景时的局限性,说明数字内容构建与真实物理法则之间仍存在鸿沟。”蓝天说。

  记者调查发现,利用AI工具批量生成营销带货视频,在电商运营中相当普遍,网络上甚至出现系统化教程。

  在一个面向电商从业者的教学视频中,一名自称经验丰富的直播电商博主,详细讲解如何借助AI快速制作吸引眼球的带货视频。他用来作为“优秀模板”向学员展示的案例,正是王欢看到的出现“穿模”问题的童装视频。

  该博主讲述制作“爆款逻辑”称:“学员跟我学习之后,利用AI批量生产这类视频,精准捕捉宝妈心理。视频直击宝妈群体对‘美观’与‘实用’的双重需求,这就是成功的关键。”

  另一位博主在账号中推荐更为“进阶”的操作。该博主以一条网络播放量破千万的真实人物炸鸡腿视频为例,现场演示如何利用AI工具对原视频人物进行“深度改造”——不仅能更换面部特征、上衣和饰品,甚至可调整人物的体型与性别。

  此类教学内容的传播,模糊了真实与虚构的边界,给消费环境带来隐患与风险。

  知名人士接连被冒名带货

  “凡是‘捎货’(带货)的肯定不是我!”10月初,在江西南昌举行的一场国际学术年会上,中国工程院院士、国医大师张伯礼以“打假”声明作为开场,向与会者展示了冒用他形象与声音合成制作的AI伪造视频。

  “这是人工合成的假视频,讲话声音听起来很像我,但所讲的内容完全不是我的本意。”张伯礼郑重提醒公众,务必提高鉴别力,警惕此类数字造假。

  今年10月20日,天津中医药大学发布严正声明,指出近期社会上有“伯礼医堂”“伯礼国医馆”“张伯礼中医院”“张伯礼大药房”等多家机构,冒用张伯礼院士之名,通过社交媒体等平台宣传产品、培训或评审活动。声明中强调,这些机构均与张伯礼院士无任何关联,其行为严重误导社会公众,损害公众健康权益,带来医疗安全隐患,并涉嫌违反相关法律法规。

  不仅专家学者深受其扰,知名媒体人也成为被仿冒对象。今年6月,北京市海淀区市场监督管理局查处首例滥用AI技术发布虚假广告的案件。

  根据消费者举报,执法人员对北京某公司展开调查发现,该公司通过一个拥有数十万粉丝的视频账号,宣传其销售的“鱼油”具有治疗头晕头痛、记忆力下降等功效。直播视频中出现中央广播电视总台主持人李梓萌的形象。

  经深入调查,该公司销售的所谓“鱼油”,实际产品执行标准为普通糖果类食品,不具备治疗功能。经权威机构鉴定,视频中出现的“主持人”形象是利用AI技术伪造生成。最终,该公司因违反《中华人民共和国广告法》相关规定,受到市场监管部门行政处罚。

  某平台售卖的“AI电商课”详情页面截图,商家宣称可帮助用户“复刻爆款视频”。受访者供图

  向AI换脸、虚假广告等“亮剑”

  北京市市场监督管理局副局长周小丰表示,北京市支持AI技术在广告中的广泛应用,同时针对AI换脸、虚假广告等问题敢于“亮剑”。他说,主持人、网红等公众人物社会认知度高,一些不法经营者利用AI技术等方式伪造图片、音视频开展虚假宣传,借助公众人物知名度推销商品服务获利,侵犯了消费者合法权益。

  “鉴于AI技术的复杂性和应用的广泛性,AI治理需要实现跨领域协同推进。需要监管持续加码、平台强化责任,更需要网民参与。”中国政法大学副教授、中国广告协会法律与道德委员会专家朱巍表示。

  在平台治理方面,部分广告企业着手构建全流程管理机制。营销服务平台巨量引擎商业安全治理标准负责人项韵介绍,面对AI广告违背公序良俗、侵权抄袭、虚假宣传等突出风险,平台聚焦“精准识别、从严处置”,今年第三季度前置拦截涉AI违规素材84万余个。

  当前,对AI虚假广告的治理正从依赖人工审核,向人机协同、智能识别方向演进。巨量引擎商业安全产品负责人潘荻表示,通过应用多模态大模型,平台提升了识别效率。系统可快速解析视频素材,定位违规内容出现的具体时段或画面,为审核决策提供参考。

  潘荻说,与传统审核模型不同,融合AI能力的大模型能够结合大量案例进行学习,理解规则背后的逻辑。“面对从未见过的人脸或全新的造假技术,系统能基于对规则的理解识别违规本质,从而显著提升对新型、隐蔽违规内容的发现能力。”

  面对不断演变的AI造假技术,治理体系需持续优化。朱巍建议,应加强对合成内容的标识与溯源,推动平台、监管部门及技术提供商之间的数据共享与标准共建,构建覆盖内容生成、传播、识别全链条的治理生态,切实维护市场秩序与消费者权益。

  针对AI广告带货乱象,北京市市场监督管理局提醒:消费者若发现疑似利用AI技术进行的虚假宣传等违法行为,应注意留存证据材料,并通过12315、12345等热线渠道向市场监管部门举报,共同维护良好的广告市场秩序和消费环境。同时,广大经营者须严格遵守《中华人民共和国广告法》《中华人民共和国反不正当竞争法》等法律法规,不得利用AI等新技术手段冒用他人名义或形象进行营销宣传活动。

  中青报·中青网记者 刘胤衡 陈晓 来源:中国青年报

✨💖【shanzhaganpaoshuihedegongxiaoyuzuoyong】💖✨dajiahao!jintianhedajialiaoliaoyigefeichangshiyongdexiaozhishi,najiushi——shanzhaganpaoshuihedaodiyoushenmegongxiaohezuoyongne?xiangxinhenduoxiaohuobanduishanzhaganbingbumosheng,shanzhashiwomenchangjiandeshuiguo,kougansuantiankekou,zuochengshanzhaganhougengshichengweibushaorendelingshixuanze,dantadegongxiaokebuzhiyucio!🌟shouxian,shanzhaganpaoshuiheyouzhuyuxiaohua。shanzhafuhanfengfudeyoujisuan,tebieshipingguosuanheningmengsuan,zhexiechengfennenggoucujinweiyefenmi,bangzhushiwudexiaohuaxishou。duiyuchileyounishiwu、ganjiaoduzibushufudepengyou,youqijianyiheshangyibeishanzhaganshui,xiaoguohuifeichangmingxiano!🌱qici,shanzhaganhaiyouzhuyujianzhihejiangya。xiandairenshenghuofangshidegaibian,feipang、gaoxueyadengwentiyuelaiyuepubian。ershanzhagansuohandehuangtongleiwuzhi,nenggoubangzhujiangdixuezhi,cujinxueyexunhuan,congeryouzhuyuxueyadewending。jingchangpaoshuihekeyishuoshiyizhongjimeiweiyoujiankangdexuanze!🍃lingwai,shanzhaganduixinzangjiankangyeyoujijizuoyong。yanjiubiaoming,shiliangsherushanzhaganhuoshanzhashui,youzhuyujianqingxinxueguanfudan,cujinxinzangjiankang。duiyuaiyundongdexiaohuoban,paoshuiheyibeishanzhashui,nenggouzengjiayundonghouhuifunengli,zhenshiyijuduodeya!✨liaowanleshanzhagandegongxiao,zanmenzailaikankanzenmepaoshanzhaganshuiba!✨(✨)💖(💖)【(【)山(shan)楂(zha)干(gan)泡(pao)水(shui)喝(he)的(de)功(gong)效(xiao)与(yu)作(zuo)用(yong)】(】)💖(💖)✨(✨)大(da)家(jia)好(hao)!(!)今(jin)天(tian)和(he)大(da)家(jia)聊(liao)聊(liao)一(yi)个(ge)非(fei)常(chang)实(shi)用(yong)的(de)小(xiao)知(zhi)识(shi),(,)那(na)就(jiu)是(shi)—(—)—(—)山(shan)楂(zha)干(gan)泡(pao)水(shui)喝(he)到(dao)底(di)有(you)什(shen)么(me)功(gong)效(xiao)和(he)作(zuo)用(yong)呢(ne)?(?)相(xiang)信(xin)很(hen)多(duo)小(xiao)伙(huo)伴(ban)对(dui)山(shan)楂(zha)干(gan)并(bing)不(bu)陌(mo)生(sheng),(,)山(shan)楂(zha)是(shi)我(wo)们(men)常(chang)见(jian)的(de)水(shui)果(guo),(,)口(kou)感(gan)酸(suan)甜(tian)可(ke)口(kou),(,)做(zuo)成(cheng)山(shan)楂(zha)干(gan)后(hou)更(geng)是(shi)成(cheng)为(wei)不(bu)少(shao)人(ren)的(de)零(ling)食(shi)选(xuan)择(ze),(,)但(dan)它(ta)的(de)功(gong)效(xiao)可(ke)不(bu)止(zhi)于(yu)此(ci)哦(o)!(!)🌟(🌟)首(shou)先(xian),(,)山(shan)楂(zha)干(gan)泡(pao)水(shui)喝(he)有(you)助(zhu)于(yu)消(xiao)化(hua)。(。)山(shan)楂(zha)富(fu)含(han)丰(feng)富(fu)的(de)有(you)机(ji)酸(suan),(,)特(te)别(bie)是(shi)苹(ping)果(guo)酸(suan)和(he)柠(ning)檬(meng)酸(suan),(,)这(zhe)些(xie)成(cheng)分(fen)能(neng)够(gou)促(cu)进(jin)胃(wei)液(ye)分(fen)泌(mi),(,)帮(bang)助(zhu)食(shi)物(wu)的(de)消(xiao)化(hua)吸(xi)收(shou)。(。)对(dui)于(yu)吃(chi)了(le)油(you)腻(ni)食(shi)物(wu)、(、)感(gan)觉(jiao)肚(du)子(zi)不(bu)舒(shu)服(fu)的(de)朋(peng)友(you),(,)尤(you)其(qi)建(jian)议(yi)喝(he)上(shang)一(yi)杯(bei)山(shan)楂(zha)干(gan)水(shui),(,)效(xiao)果(guo)会(hui)非(fei)常(chang)明(ming)显(xian)哦(o)!(!)🌱(🌱)其(qi)次(ci),(,)山(shan)楂(zha)干(gan)还(hai)有(you)助(zhu)于(yu)减(jian)脂(zhi)和(he)降(jiang)压(ya)。(。)现(xian)代(dai)人(ren)生(sheng)活(huo)方(fang)式(shi)的(de)改(gai)变(bian),(,)肥(fei)胖(pang)、(、)高(gao)血(xue)压(ya)等(deng)问(wen)题(ti)越(yue)来(lai)越(yue)普(pu)遍(bian)。(。)而(er)山(shan)楂(zha)干(gan)所(suo)含(han)的(de)黄(huang)酮(tong)类(lei)物(wu)质(zhi),(,)能(neng)够(gou)帮(bang)助(zhu)降(jiang)低(di)血(xue)脂(zhi),(,)促(cu)进(jin)血(xue)液(ye)循(xun)环(huan),(,)从(cong)而(er)有(you)助(zhu)于(yu)血(xue)压(ya)的(de)稳(wen)定(ding)。(。)经(jing)常(chang)泡(pao)水(shui)喝(he)可(ke)以(yi)说(shuo)是(shi)一(yi)种(zhong)既(ji)美(mei)味(wei)又(you)健(jian)康(kang)的(de)选(xuan)择(ze)!(!)🍃(🍃)另(ling)外(wai),(,)山(shan)楂(zha)干(gan)对(dui)心(xin)脏(zang)健(jian)康(kang)也(ye)有(you)积(ji)极(ji)作(zuo)用(yong)。(。)研(yan)究(jiu)表(biao)明(ming),(,)适(shi)量(liang)摄(she)入(ru)山(shan)楂(zha)干(gan)或(huo)山(shan)楂(zha)水(shui),(,)有(you)助(zhu)于(yu)减(jian)轻(qing)心(xin)血(xue)管(guan)负(fu)担(dan),(,)促(cu)进(jin)心(xin)脏(zang)健(jian)康(kang)。(。)对(dui)于(yu)爱(ai)运(yun)动(dong)的(de)小(xiao)伙(huo)伴(ban),(,)泡(pao)水(shui)喝(he)一(yi)杯(bei)山(shan)楂(zha)水(shui),(,)能(neng)够(gou)增(zeng)加(jia)运(yun)动(dong)后(hou)恢(hui)复(fu)能(neng)力(li),(,)真(zhen)是(shi)一(yi)举(ju)多(duo)得(de)呀(ya)!(!)✨(✨)聊(liao)完(wan)了(le)山(shan)楂(zha)干(gan)的(de)功(gong)效(xiao),(,)咱(zan)们(men)再(zai)来(lai)看(kan)看(kan)怎(zen)么(me)泡(pao)山(shan)楂(zha)干(gan)水(shui)吧(ba)!(!)

发布于:北京市