AI带货视频“批量化”生产 “AI李鬼”游走在灰色地带|国产CHINASEX对白VIDEOS麻豆

  一条视频中,两名“儿童”身着白色短袖,在阳光下开心地玩滑板。镜头一转,两人在动作交错时,身体竟然融合在一起,暴露出数字合成痕迹。

  今年“双11”期间,北京市民王欢在某社交平台刷到这条童装推广视频,深感诧异,直到看见角落一行“内容由AI生成”的提示,她才意识到孩子玩耍的画面是技术合成的。“这画面错得有些离谱,让人怎么相信商品的真实效果?”她疑惑地说。

  近来,商家利用AI技术带货的现象日益增多,有的出现违法违规情形:有借助名人效应,仿冒专家学者、奥运冠军、影视明星为产品站台;有冒充知名品牌误导消费者。不少消费者和粉丝难辨真伪,出于对“偶像”或“品牌”的信任下单,却没意识到背后潜藏的风险。

  这些游走在灰色地带的“AI李鬼”,涉嫌侵害当事者的肖像权以及消费者的知情权与选择权,对当下网络数字治理提出新挑战。

  AI带货视频“批量化”生产

  “两人穿透彼此身体,明显违背真实世界的物理规律,在行业中我们称之为‘穿模’。”资深AI技术人员蓝天说。

  他指出,当前主流AI视频生成模型,其核心逻辑是在海量数据训练基础上,具备较强的语言理解和图像生成能力,能够根据文本描述“画”出逼真画面。然而,对于真实世界中复杂的物理规律,如重力、碰撞、物体间的不可穿透性等,AI仍缺乏深刻的感知与预测能力。

  “‘穿模’是AI生成视频中的典型漏洞,反映了当前技术在处理复杂动态场景时的局限性,说明数字内容构建与真实物理法则之间仍存在鸿沟。”蓝天说。

  记者调查发现,利用AI工具批量生成营销带货视频,在电商运营中相当普遍,网络上甚至出现系统化教程。

  在一个面向电商从业者的教学视频中,一名自称经验丰富的直播电商博主,详细讲解如何借助AI快速制作吸引眼球的带货视频。他用来作为“优秀模板”向学员展示的案例,正是王欢看到的出现“穿模”问题的童装视频。

  该博主讲述制作“爆款逻辑”称:“学员跟我学习之后,利用AI批量生产这类视频,精准捕捉宝妈心理。视频直击宝妈群体对‘美观’与‘实用’的双重需求,这就是成功的关键。”

  另一位博主在账号中推荐更为“进阶”的操作。该博主以一条网络播放量破千万的真实人物炸鸡腿视频为例,现场演示如何利用AI工具对原视频人物进行“深度改造”——不仅能更换面部特征、上衣和饰品,甚至可调整人物的体型与性别。

  此类教学内容的传播,模糊了真实与虚构的边界,给消费环境带来隐患与风险。

  知名人士接连被冒名带货

  “凡是‘捎货’(带货)的肯定不是我!”10月初,在江西南昌举行的一场国际学术年会上,中国工程院院士、国医大师张伯礼以“打假”声明作为开场,向与会者展示了冒用他形象与声音合成制作的AI伪造视频。

  “这是人工合成的假视频,讲话声音听起来很像我,但所讲的内容完全不是我的本意。”张伯礼郑重提醒公众,务必提高鉴别力,警惕此类数字造假。

  今年10月20日,天津中医药大学发布严正声明,指出近期社会上有“伯礼医堂”“伯礼国医馆”“张伯礼中医院”“张伯礼大药房”等多家机构,冒用张伯礼院士之名,通过社交媒体等平台宣传产品、培训或评审活动。声明中强调,这些机构均与张伯礼院士无任何关联,其行为严重误导社会公众,损害公众健康权益,带来医疗安全隐患,并涉嫌违反相关法律法规。

  不仅专家学者深受其扰,知名媒体人也成为被仿冒对象。今年6月,北京市海淀区市场监督管理局查处首例滥用AI技术发布虚假广告的案件。

  根据消费者举报,执法人员对北京某公司展开调查发现,该公司通过一个拥有数十万粉丝的视频账号,宣传其销售的“鱼油”具有治疗头晕头痛、记忆力下降等功效。直播视频中出现中央广播电视总台主持人李梓萌的形象。

  经深入调查,该公司销售的所谓“鱼油”,实际产品执行标准为普通糖果类食品,不具备治疗功能。经权威机构鉴定,视频中出现的“主持人”形象是利用AI技术伪造生成。最终,该公司因违反《中华人民共和国广告法》相关规定,受到市场监管部门行政处罚。

  某平台售卖的“AI电商课”详情页面截图,商家宣称可帮助用户“复刻爆款视频”。受访者供图

  向AI换脸、虚假广告等“亮剑”

  北京市市场监督管理局副局长周小丰表示,北京市支持AI技术在广告中的广泛应用,同时针对AI换脸、虚假广告等问题敢于“亮剑”。他说,主持人、网红等公众人物社会认知度高,一些不法经营者利用AI技术等方式伪造图片、音视频开展虚假宣传,借助公众人物知名度推销商品服务获利,侵犯了消费者合法权益。

  “鉴于AI技术的复杂性和应用的广泛性,AI治理需要实现跨领域协同推进。需要监管持续加码、平台强化责任,更需要网民参与。”中国政法大学副教授、中国广告协会法律与道德委员会专家朱巍表示。

  在平台治理方面,部分广告企业着手构建全流程管理机制。营销服务平台巨量引擎商业安全治理标准负责人项韵介绍,面对AI广告违背公序良俗、侵权抄袭、虚假宣传等突出风险,平台聚焦“精准识别、从严处置”,今年第三季度前置拦截涉AI违规素材84万余个。

  当前,对AI虚假广告的治理正从依赖人工审核,向人机协同、智能识别方向演进。巨量引擎商业安全产品负责人潘荻表示,通过应用多模态大模型,平台提升了识别效率。系统可快速解析视频素材,定位违规内容出现的具体时段或画面,为审核决策提供参考。

  潘荻说,与传统审核模型不同,融合AI能力的大模型能够结合大量案例进行学习,理解规则背后的逻辑。“面对从未见过的人脸或全新的造假技术,系统能基于对规则的理解识别违规本质,从而显著提升对新型、隐蔽违规内容的发现能力。”

  面对不断演变的AI造假技术,治理体系需持续优化。朱巍建议,应加强对合成内容的标识与溯源,推动平台、监管部门及技术提供商之间的数据共享与标准共建,构建覆盖内容生成、传播、识别全链条的治理生态,切实维护市场秩序与消费者权益。

  针对AI广告带货乱象,北京市市场监督管理局提醒:消费者若发现疑似利用AI技术进行的虚假宣传等违法行为,应注意留存证据材料,并通过12315、12345等热线渠道向市场监管部门举报,共同维护良好的广告市场秩序和消费环境。同时,广大经营者须严格遵守《中华人民共和国广告法》《中华人民共和国反不正当竞争法》等法律法规,不得利用AI等新技术手段冒用他人名义或形象进行营销宣传活动。

  中青报·中青网记者 刘胤衡 陈晓 来源:中国青年报

jinshi,zuoweiyizhongchangjiandeshiliwenti,yijingchengweilexiandaishehuizhongbukehushidejiankangyiti。womenshenghuozaiyigexinxigaodufadadeshidai,dianzishebeipinfanshiyong,daozhijinshidefabinglvzhunianshangsheng。duici,worenwei,yufanghekongzhijinshideguanjianzaiyutishenggongzhongdejiankangyishiyujiaoyu。shouxian,jinshidechengyinfuza,chuleyichuanyinsuwai,huanjingyinsuyeqizhezhongyaozuoyong。changshijianjinjuliyongyan、quefahuwaihuodongdoushidaozhijinshidezhongyaoyuanyin。xuduorenzairichangshenghuozhong,mianduidianzipingmudeshijianyuelaiyuechang,erhushileyanjingdebaohu。raner,henduorenduijinshideweihairenshibuzu,renweizhezhishishenghuozhongdexiaowenti,shijishang,jinshibujinyingxiangshili,haikenengdailaigengduoyankejibingdefengxian,rushiwangmotuoluodeng。yinci,tigaogongzhongduijinshiderenzhiyouweizhongyao。qici,xuexiaohejiatingshiyufangjinshidezhongyaochangsuo。xuexiaokeyitongguokaizhanjiankangjiaoyukecheng,xiangxueshengpujiyongyanweishengzhishi,gulixueshengyangchenglianghaodeyongyanxiguan。jiatingzeyingzhudongguanzhuhaizideyongyanqingkuang,xianzhishiyongdianzichanpindeshijian,bingguliduocanjiahuwaihuodong,shaitaiyang,yibangzhushilifayu。tongshi,dingqidaihaizijinxingshilijiance,jishifaxianwentibingxunqiuzhuanyerenshidejianyi。zuihou,zhengfuheshehuiyeyingjiadaduijinshifangkongdexuanchuanlidu,tuidongxiangguanzhengcedeshishi,jianligengweiwanshandeyanjiankangjiaoyutixi。zhiyouquanshehuigongtongnuli,cainengyouxiaodijiangdiqingshaonianjinshidefashenglv。zongshangsuoshu,yufanghekongzhijinshidegenbenzaiyutishenggongzhongdejiankangyishiyujiaoyu。womenxuyaogongtongnuli,congxiaochuzheshou,peiyanglianghaodeyongyanxiguan,yicibaohuwomendeshi近(jin)视(shi),(,)作(zuo)为(wei)一(yi)种(zhong)常(chang)见(jian)的(de)视(shi)力(li)问(wen)题(ti),(,)已(yi)经(jing)成(cheng)为(wei)了(le)现(xian)代(dai)社(she)会(hui)中(zhong)不(bu)可(ke)忽(hu)视(shi)的(de)健(jian)康(kang)议(yi)题(ti)。(。)我(wo)们(men)生(sheng)活(huo)在(zai)一(yi)个(ge)信(xin)息(xi)高(gao)度(du)发(fa)达(da)的(de)时(shi)代(dai),(,)电(dian)子(zi)设(she)备(bei)频(pin)繁(fan)使(shi)用(yong),(,)导(dao)致(zhi)近(jin)视(shi)的(de)发(fa)病(bing)率(lv)逐(zhu)年(nian)上(shang)升(sheng)。(。)对(dui)此(ci),(,)我(wo)认(ren)为(wei),(,)预(yu)防(fang)和(he)控(kong)制(zhi)近(jin)视(shi)的(de)关(guan)键(jian)在(zai)于(yu)提(ti)升(sheng)公(gong)众(zhong)的(de)健(jian)康(kang)意(yi)识(shi)与(yu)教(jiao)育(yu)。(。)首(shou)先(xian),(,)近(jin)视(shi)的(de)成(cheng)因(yin)复(fu)杂(za),(,)除(chu)了(le)遗(yi)传(chuan)因(yin)素(su)外(wai),(,)环(huan)境(jing)因(yin)素(su)也(ye)起(qi)着(zhe)重(zhong)要(yao)作(zuo)用(yong)。(。)长(chang)时(shi)间(jian)近(jin)距(ju)离(li)用(yong)眼(yan)、(、)缺(que)乏(fa)户(hu)外(wai)活(huo)动(dong)都(dou)是(shi)导(dao)致(zhi)近(jin)视(shi)的(de)重(zhong)要(yao)原(yuan)因(yin)。(。)许(xu)多(duo)人(ren)在(zai)日(ri)常(chang)生(sheng)活(huo)中(zhong),(,)面(mian)对(dui)电(dian)子(zi)屏(ping)幕(mu)的(de)时(shi)间(jian)越(yue)来(lai)越(yue)长(chang),(,)而(er)忽(hu)视(shi)了(le)眼(yan)睛(jing)的(de)保(bao)护(hu)。(。)然(ran)而(er),(,)很(hen)多(duo)人(ren)对(dui)近(jin)视(shi)的(de)危(wei)害(hai)认(ren)识(shi)不(bu)足(zu),(,)认(ren)为(wei)这(zhe)只(zhi)是(shi)生(sheng)活(huo)中(zhong)的(de)小(xiao)问(wen)题(ti),(,)实(shi)际(ji)上(shang),(,)近(jin)视(shi)不(bu)仅(jin)影(ying)响(xiang)视(shi)力(li),(,)还(hai)可(ke)能(neng)带(dai)来(lai)更(geng)多(duo)眼(yan)科(ke)疾(ji)病(bing)的(de)风(feng)险(xian),(,)如(ru)视(shi)网(wang)膜(mo)脱(tuo)落(luo)等(deng)。(。)因(yin)此(ci),(,)提(ti)高(gao)公(gong)众(zhong)对(dui)近(jin)视(shi)的(de)认(ren)知(zhi)尤(you)为(wei)重(zhong)要(yao)。(。)其(qi)次(ci),(,)学(xue)校(xiao)和(he)家(jia)庭(ting)是(shi)预(yu)防(fang)近(jin)视(shi)的(de)重(zhong)要(yao)场(chang)所(suo)。(。)学(xue)校(xiao)可(ke)以(yi)通(tong)过(guo)开(kai)展(zhan)健(jian)康(kang)教(jiao)育(yu)课(ke)程(cheng),(,)向(xiang)学(xue)生(sheng)普(pu)及(ji)用(yong)眼(yan)卫(wei)生(sheng)知(zhi)识(shi),(,)鼓(gu)励(li)学(xue)生(sheng)养(yang)成(cheng)良(liang)好(hao)的(de)用(yong)眼(yan)习(xi)惯(guan)。(。)家(jia)庭(ting)则(ze)应(ying)主(zhu)动(dong)关(guan)注(zhu)孩(hai)子(zi)的(de)用(yong)眼(yan)情(qing)况(kuang),(,)限(xian)制(zhi)使(shi)用(yong)电(dian)子(zi)产(chan)品(pin)的(de)时(shi)间(jian),(,)并(bing)鼓(gu)励(li)多(duo)参(can)加(jia)户(hu)外(wai)活(huo)动(dong),(,)晒(shai)太(tai)阳(yang),(,)以(yi)帮(bang)助(zhu)视(shi)力(li)发(fa)育(yu)。(。)同(tong)时(shi),(,)定(ding)期(qi)带(dai)孩(hai)子(zi)进(jin)行(xing)视(shi)力(li)检(jian)测(ce),(,)及(ji)时(shi)发(fa)现(xian)问(wen)题(ti)并(bing)寻(xun)求(qiu)专(zhuan)业(ye)人(ren)士(shi)的(de)建(jian)议(yi)。(。)最(zui)后(hou),(,)政(zheng)府(fu)和(he)社(she)会(hui)也(ye)应(ying)加(jia)大(da)对(dui)近(jin)视(shi)防(fang)控(kong)的(de)宣(xuan)传(chuan)力(li)度(du),(,)推(tui)动(dong)相(xiang)关(guan)政(zheng)策(ce)的(de)实(shi)施(shi),(,)建(jian)立(li)更(geng)为(wei)完(wan)善(shan)的(de)眼(yan)健(jian)康(kang)教(jiao)育(yu)体(ti)系(xi)。(。)只(zhi)有(you)全(quan)社(she)会(hui)共(gong)同(tong)努(nu)力(li),(,)才(cai)能(neng)有(you)效(xiao)地(di)降(jiang)低(di)青(qing)少(shao)年(nian)近(jin)视(shi)的(de)发(fa)生(sheng)率(lv)。(。)综(zong)上(shang)所(suo)述(shu),(,)预(yu)防(fang)和(he)控(kong)制(zhi)近(jin)视(shi)的(de)根(gen)本(ben)在(zai)于(yu)提(ti)升(sheng)公(gong)众(zhong)的(de)健(jian)康(kang)意(yi)识(shi)与(yu)教(jiao)育(yu)。(。)我(wo)们(men)需(xu)要(yao)共(gong)同(tong)努(nu)力(li),(,)从(cong)小(xiao)处(chu)着(zhe)手(shou),(,)培(pei)养(yang)良(liang)好(hao)的(de)用(yong)眼(yan)习(xi)惯(guan),(,)以(yi)此(ci)保(bao)护(hu)我(wo)们(men)的(de)视(shi)

发布于:北京市