AI带货视频“批量化”生产 “AI李鬼”游走在灰色地带|亚洲 欧美 中文 在线 视频

  一条视频中,两名“儿童”身着白色短袖,在阳光下开心地玩滑板。镜头一转,两人在动作交错时,身体竟然融合在一起,暴露出数字合成痕迹。

  今年“双11”期间,北京市民王欢在某社交平台刷到这条童装推广视频,深感诧异,直到看见角落一行“内容由AI生成”的提示,她才意识到孩子玩耍的画面是技术合成的。“这画面错得有些离谱,让人怎么相信商品的真实效果?”她疑惑地说。

  近来,商家利用AI技术带货的现象日益增多,有的出现违法违规情形:有借助名人效应,仿冒专家学者、奥运冠军、影视明星为产品站台;有冒充知名品牌误导消费者。不少消费者和粉丝难辨真伪,出于对“偶像”或“品牌”的信任下单,却没意识到背后潜藏的风险。

  这些游走在灰色地带的“AI李鬼”,涉嫌侵害当事者的肖像权以及消费者的知情权与选择权,对当下网络数字治理提出新挑战。

  AI带货视频“批量化”生产

  “两人穿透彼此身体,明显违背真实世界的物理规律,在行业中我们称之为‘穿模’。”资深AI技术人员蓝天说。

  他指出,当前主流AI视频生成模型,其核心逻辑是在海量数据训练基础上,具备较强的语言理解和图像生成能力,能够根据文本描述“画”出逼真画面。然而,对于真实世界中复杂的物理规律,如重力、碰撞、物体间的不可穿透性等,AI仍缺乏深刻的感知与预测能力。

  “‘穿模’是AI生成视频中的典型漏洞,反映了当前技术在处理复杂动态场景时的局限性,说明数字内容构建与真实物理法则之间仍存在鸿沟。”蓝天说。

  记者调查发现,利用AI工具批量生成营销带货视频,在电商运营中相当普遍,网络上甚至出现系统化教程。

  在一个面向电商从业者的教学视频中,一名自称经验丰富的直播电商博主,详细讲解如何借助AI快速制作吸引眼球的带货视频。他用来作为“优秀模板”向学员展示的案例,正是王欢看到的出现“穿模”问题的童装视频。

  该博主讲述制作“爆款逻辑”称:“学员跟我学习之后,利用AI批量生产这类视频,精准捕捉宝妈心理。视频直击宝妈群体对‘美观’与‘实用’的双重需求,这就是成功的关键。”

  另一位博主在账号中推荐更为“进阶”的操作。该博主以一条网络播放量破千万的真实人物炸鸡腿视频为例,现场演示如何利用AI工具对原视频人物进行“深度改造”——不仅能更换面部特征、上衣和饰品,甚至可调整人物的体型与性别。

  此类教学内容的传播,模糊了真实与虚构的边界,给消费环境带来隐患与风险。

  知名人士接连被冒名带货

  “凡是‘捎货’(带货)的肯定不是我!”10月初,在江西南昌举行的一场国际学术年会上,中国工程院院士、国医大师张伯礼以“打假”声明作为开场,向与会者展示了冒用他形象与声音合成制作的AI伪造视频。

  “这是人工合成的假视频,讲话声音听起来很像我,但所讲的内容完全不是我的本意。”张伯礼郑重提醒公众,务必提高鉴别力,警惕此类数字造假。

  今年10月20日,天津中医药大学发布严正声明,指出近期社会上有“伯礼医堂”“伯礼国医馆”“张伯礼中医院”“张伯礼大药房”等多家机构,冒用张伯礼院士之名,通过社交媒体等平台宣传产品、培训或评审活动。声明中强调,这些机构均与张伯礼院士无任何关联,其行为严重误导社会公众,损害公众健康权益,带来医疗安全隐患,并涉嫌违反相关法律法规。

  不仅专家学者深受其扰,知名媒体人也成为被仿冒对象。今年6月,北京市海淀区市场监督管理局查处首例滥用AI技术发布虚假广告的案件。

  根据消费者举报,执法人员对北京某公司展开调查发现,该公司通过一个拥有数十万粉丝的视频账号,宣传其销售的“鱼油”具有治疗头晕头痛、记忆力下降等功效。直播视频中出现中央广播电视总台主持人李梓萌的形象。

  经深入调查,该公司销售的所谓“鱼油”,实际产品执行标准为普通糖果类食品,不具备治疗功能。经权威机构鉴定,视频中出现的“主持人”形象是利用AI技术伪造生成。最终,该公司因违反《中华人民共和国广告法》相关规定,受到市场监管部门行政处罚。

  某平台售卖的“AI电商课”详情页面截图,商家宣称可帮助用户“复刻爆款视频”。受访者供图

  向AI换脸、虚假广告等“亮剑”

  北京市市场监督管理局副局长周小丰表示,北京市支持AI技术在广告中的广泛应用,同时针对AI换脸、虚假广告等问题敢于“亮剑”。他说,主持人、网红等公众人物社会认知度高,一些不法经营者利用AI技术等方式伪造图片、音视频开展虚假宣传,借助公众人物知名度推销商品服务获利,侵犯了消费者合法权益。

  “鉴于AI技术的复杂性和应用的广泛性,AI治理需要实现跨领域协同推进。需要监管持续加码、平台强化责任,更需要网民参与。”中国政法大学副教授、中国广告协会法律与道德委员会专家朱巍表示。

  在平台治理方面,部分广告企业着手构建全流程管理机制。营销服务平台巨量引擎商业安全治理标准负责人项韵介绍,面对AI广告违背公序良俗、侵权抄袭、虚假宣传等突出风险,平台聚焦“精准识别、从严处置”,今年第三季度前置拦截涉AI违规素材84万余个。

  当前,对AI虚假广告的治理正从依赖人工审核,向人机协同、智能识别方向演进。巨量引擎商业安全产品负责人潘荻表示,通过应用多模态大模型,平台提升了识别效率。系统可快速解析视频素材,定位违规内容出现的具体时段或画面,为审核决策提供参考。

  潘荻说,与传统审核模型不同,融合AI能力的大模型能够结合大量案例进行学习,理解规则背后的逻辑。“面对从未见过的人脸或全新的造假技术,系统能基于对规则的理解识别违规本质,从而显著提升对新型、隐蔽违规内容的发现能力。”

  面对不断演变的AI造假技术,治理体系需持续优化。朱巍建议,应加强对合成内容的标识与溯源,推动平台、监管部门及技术提供商之间的数据共享与标准共建,构建覆盖内容生成、传播、识别全链条的治理生态,切实维护市场秩序与消费者权益。

  针对AI广告带货乱象,北京市市场监督管理局提醒:消费者若发现疑似利用AI技术进行的虚假宣传等违法行为,应注意留存证据材料,并通过12315、12345等热线渠道向市场监管部门举报,共同维护良好的广告市场秩序和消费环境。同时,广大经营者须严格遵守《中华人民共和国广告法》《中华人民共和国反不正当竞争法》等法律法规,不得利用AI等新技术手段冒用他人名义或形象进行营销宣传活动。

  中青报·中青网记者 刘胤衡 陈晓 来源:中国青年报

#fufanganfenwananjiaonangshiyongtihui📦✨dajiahaoya!jintianxianghedajialiaoliaowozuijinzaiganmaoshiyongdaodeyigehaowu——fufanganfenwananjiaonang。xiangxinhenduoxiaohuobanzaihuanjishidoushoudaoganmaokunrao,tebieshiliuganjijie,fufanganfenwananjiaonangjiushiwozheciduikangganmaodemimiwuqi!##shenmeshifufanganfenwananjiaonang?🤔zhekuanjiaonangzhuyaoshiyongyuhuanjieganmaohuoliuganyinqidefare、toutong、jirousuantongdengzhengzhuang。tadechengfenzhongbaohanleanjibilin、duiyixiananjifendengchengfen,keyiyouxiaodijiangditiwenbinghuanjietengtong。wulunshigongzuoyalida,haishitianqitubian,wodouhuizhunbeiyihezaishenbian,zhendetebiekaopu!##shiyongtiyan💊👍jideyouyiciganghuanjideshihou,woturangandaoquanshenwuli,toutengdelihai,mingxianshiganmaodeqianzhao。yushi,woganjinchilelianglifufanganfenwananjiaonang,meiguoduojiu,shentideshushiganjiuhuilaile!xiangshishenqidejieyaoyiyang,toutongjingranzhendejianqingle,dunshijiaodejingshenlexuduo。erqie,tadefuyongfangshiyehenfangbian,yiciliangli,shuitunfujiuhao,buxuyaofuzadecaozuo。zaifuyongguochengzhong,womeiyouchuxianshenmetebiedefuzuoyong,ouerhuiyouyidianxiaokun,kenengshiyinweiyaowuzuoyongdeguanxi,buguowojiaodezheshikeyijieshoude。##zhuyishixiang⚠️shiyongfufanganfenwananjiao#(#)复(fu)方(fang)氨(an)酚(fen)烷(wan)胺(an)胶(jiao)囊(nang)使(shi)用(yong)体(ti)会(hui)📦(📦)✨(✨)大(da)家(jia)好(hao)呀(ya)!(!)今(jin)天(tian)想(xiang)和(he)大(da)家(jia)聊(liao)聊(liao)我(wo)最(zui)近(jin)在(zai)感(gan)冒(mao)时(shi)用(yong)到(dao)的(de)一(yi)个(ge)好(hao)物(wu)—(—)—(—)复(fu)方(fang)氨(an)酚(fen)烷(wan)胺(an)胶(jiao)囊(nang)。(。)相(xiang)信(xin)很(hen)多(duo)小(xiao)伙(huo)伴(ban)在(zai)换(huan)季(ji)时(shi)都(dou)受(shou)到(dao)感(gan)冒(mao)困(kun)扰(rao),(,)特(te)别(bie)是(shi)流(liu)感(gan)季(ji)节(jie),(,)复(fu)方(fang)氨(an)酚(fen)烷(wan)胺(an)胶(jiao)囊(nang)就(jiu)是(shi)我(wo)这(zhe)次(ci)对(dui)抗(kang)感(gan)冒(mao)的(de)秘(mi)密(mi)武(wu)器(qi)!(!)#(#)#(#)什(shen)么(me)是(shi)复(fu)方(fang)氨(an)酚(fen)烷(wan)胺(an)胶(jiao)囊(nang)?(?)🤔(🤔)这(zhe)款(kuan)胶(jiao)囊(nang)主(zhu)要(yao)是(shi)用(yong)于(yu)缓(huan)解(jie)感(gan)冒(mao)或(huo)流(liu)感(gan)引(yin)起(qi)的(de)发(fa)热(re)、(、)头(tou)痛(tong)、(、)肌(ji)肉(rou)酸(suan)痛(tong)等(deng)症(zheng)状(zhuang)。(。)它(ta)的(de)成(cheng)分(fen)中(zhong)包(bao)含(han)了(le)氨(an)基(ji)比(bi)林(lin)、(、)对(dui)乙(yi)酰(xian)氨(an)基(ji)酚(fen)等(deng)成(cheng)分(fen),(,)可(ke)以(yi)有(you)效(xiao)地(di)降(jiang)低(di)体(ti)温(wen)并(bing)缓(huan)解(jie)疼(teng)痛(tong)。(。)无(wu)论(lun)是(shi)工(gong)作(zuo)压(ya)力(li)大(da),(,)还(hai)是(shi)天(tian)气(qi)突(tu)变(bian),(,)我(wo)都(dou)会(hui)准(zhun)备(bei)一(yi)盒(he)在(zai)身(shen)边(bian),(,)真(zhen)的(de)特(te)别(bie)靠(kao)谱(pu)!(!)#(#)#(#)使(shi)用(yong)体(ti)验(yan)💊(💊)👍(👍)记(ji)得(de)有(you)一(yi)次(ci)刚(gang)换(huan)季(ji)的(de)时(shi)候(hou),(,)我(wo)突(tu)然(ran)感(gan)到(dao)全(quan)身(shen)无(wu)力(li),(,)头(tou)疼(teng)得(de)厉(li)害(hai),(,)明(ming)显(xian)是(shi)感(gan)冒(mao)的(de)前(qian)兆(zhao)。(。)于(yu)是(shi),(,)我(wo)赶(gan)紧(jin)吃(chi)了(le)两(liang)粒(li)复(fu)方(fang)氨(an)酚(fen)烷(wan)胺(an)胶(jiao)囊(nang),(,)没(mei)过(guo)多(duo)久(jiu),(,)身(shen)体(ti)的(de)舒(shu)适(shi)感(gan)就(jiu)回(hui)来(lai)了(le)!(!)像(xiang)是(shi)神(shen)奇(qi)的(de)解(jie)药(yao)一(yi)样(yang),(,)头(tou)痛(tong)竟(jing)然(ran)真(zhen)的(de)减(jian)轻(qing)了(le),(,)顿(dun)时(shi)觉(jiao)得(de)精(jing)神(shen)了(le)许(xu)多(duo)。(。)而(er)且(qie),(,)它(ta)的(de)服(fu)用(yong)方(fang)式(shi)也(ye)很(hen)方(fang)便(bian),(,)一(yi)次(ci)两(liang)粒(li),(,)水(shui)吞(tun)服(fu)就(jiu)好(hao),(,)不(bu)需(xu)要(yao)复(fu)杂(za)的(de)操(cao)作(zuo)。(。)在(zai)服(fu)用(yong)过(guo)程(cheng)中(zhong),(,)我(wo)没(mei)有(you)出(chu)现(xian)什(shen)么(me)特(te)别(bie)的(de)副(fu)作(zuo)用(yong),(,)偶(ou)尔(er)会(hui)有(you)一(yi)点(dian)小(xiao)困(kun),(,)可(ke)能(neng)是(shi)因(yin)为(wei)药(yao)物(wu)作(zuo)用(yong)的(de)关(guan)系(xi),(,)不(bu)过(guo)我(wo)觉(jiao)得(de)这(zhe)是(shi)可(ke)以(yi)接(jie)受(shou)的(de)。(。)#(#)#(#)注(zhu)意(yi)事(shi)项(xiang)⚠(⚠)️(️)使(shi)用(yong)复(fu)方(fang)氨(an)酚(fen)烷(wan)胺(an)胶(jiao)

发布于:北京市