换脸换声、版权侵权……生成式AI被滥用该如何治理?|国产伦国产伦老熟300部
中国互联网络信息中心日前发布了《生成式人工智能应用发展报告(2025)》。报告显示,我国生成式人工智能产品用户规模已达5.15亿人。报告同时也提出,随着生成式人工智能的高速普及,其带来的换脸换声、版权侵权、学术滥用等问题也越发凸显。这些问题在实践中存在哪些表现?如何治理和应对这些风险挑战?
利用AI换脸换声生成虚假广告案件频发
生成式人工智能的多模态能力,可以让用户轻易给视频中的人物换脸换声,甚至直接生成完全虚构的视频,给不法分子带来可乘之机。近期就发生了多起AI换脸换声,生成虚假广告的案件。比如,有的伪造奥运冠军推荐土鸡蛋,还有的伪造医生形象推销保健品,严重误导公众。
这些换声和换脸的AI深度合成是如何制作出来的呢?面对这些以假乱真的视频,又该如何识别?
业内人士告诉记者,随着AI换声换脸技术的越来越成熟,已经足以达到以假乱真的地步。分辨一段视频或者声音是否是经过深度合成,最好的办法还是通过AI去识别。即用AI去识别AI。
人工智能大模型研究员 潘季明:从技术角度来说,最快的方式还是基于AI的方式去进行识别,如专门的深度伪造鉴别模型,用于分析视频和音频中的不自然的特征,如检测眨眼频率、面部肌肉运动的生理一致性、音频与纯嘴唇同步率、光源一致性等细微的物理或生理破绽。
专家:治理核心在于全面落实内容标识制度
近两年,AI深度合成名人、换脸换声的视频层出不穷、屡禁不止。对此,专家表示,治理的核心在于全面落实内容标识制度。
北京航空航天大学法学院副教授 赵精武:我国自2025年9月起正式施行了《人工智能生成合成内容标识办法》,其中明确要求,所有AI生成的文字、图片、视频等内容必须添加显式标识以"亮明身份",同时鼓励添加数字水印等隐式标识。平台企业应当依据《人工智能生成合成内容标识办法》,从源头嵌入标识机制,为AI生成内容附加不可篡改的数字水印,并确保这些标识在经过剪辑、压缩后仍能被准确识别。
专家表示,AI深度合成的使用者在通过AI制作视频时,应该有一条侵权法律界限,要合规合法使用人工智能深度合成。
北京航空航天大学法学院副教授 赵精武:在明确合法性边界方面,需要严格区分AI换脸技术的合法应用与非法滥用的边界。合法应用通常包括影视制作、教育教学、医疗康复等具有正当价值的场景,这些应用需遵循法律上规定最小必要原则,确保使用范围和目的相匹配,并获取相应授权。而非法滥用则主要表现为未经授权的肖像冒用、虚假信息传播、淫秽色情内容制作等场景。
AI大模型训练引发版权问题 矛盾怎么破?
再来看人工智能带来的版权侵权问题。早在去年10月,文学界、音乐界等超万名人士发表了一份联合声明,谴责“未经许可使用创意作品来训练生成式人工智能”的行为。人工智能大模型使用的数据为何会引起版权争端,又该如何破局,来听听专家怎么说。
AI业内人士告诉记者,目前人工智能大模型训练的数据,绝大多数来自于网络,这些数据就包括含有版权的相关数据。
人工智能大模型研究员 潘季明:现有的大模型都是基于海量的数据进行训练的,其来源包括像互联网数据,以及图书、论文、行业数据等,经过数据预处理,通过无监督学习、微调、强化学习之后,便可用于内容生成。然而模型是没有版权意识的,它不知道哪些内容是涉及版权,哪些不能随便生成,除非对现在数据进行一个明确的版权标识。而现在的大模型基本上不管有没有版权,都会去进行一个数据抓取训练。
针对人工智能大模型涉及的版权问题,专家表示,发展人工智能不能以牺牲版权为代价,两者和谐共生应以尊重知识产权为前提。
北京航空航天大学法学院副教授赵精武介绍,AI开发运营者需建立全面的著作权合规机制,包括:
在训练数据收集阶段进行版权审核,优先获取授权和使用开放许可的资源;在模型训练过程中保留数据来源记录;
在内容生成环节嵌入防抄袭检测;
在输出阶段需要添加版权标识和水印。
另一方面,主管部门需要扩充训练数据供给渠道,化解训练数据不充分与版权的冲突困境。
学生和研究人员滥用AI写论文抄作业引关注
除了刚才说到的问题,报告中也提到,学生和研究人员将生成式人工智能用于写论文、抄作业的情况也正引起各界关注。
专家表示,随着生成式人工智能在学术研究中的广泛应用,学术诚信体系面临前所未有的挑战。简单的禁止措施已被证明效果不彰,且难以执行。“堵不如疏”的治理理念正成为全球学术界的共识,其核心在于认可AI技术提升科研效率的积极价值,同时通过规范引导确保其应用不损害学术诚信。
北京航空航天大学法学院副教授 赵精武:在教学活动中,教师应当设置专门环节引导学生正确使用AI工具,将该类工具从“偷懒”“图省事”的错误定位调整为“提升学习效率”“辅助科研”的正确功能定位,明确它的辅助定位的属性。同时,教师还需要设计能够评估学生思维过程的考核方式,减少对纯文本输入的依赖,增加过程性评价比重。(央视新闻客户端)
💉✨xiaohongshufenxiang✨💉halou,xiaohuobanmen!jintianhedajialiaoliaowozuijintiyande“chuzhouzhen”,zhendeshixindongdaobuxing,ganjinlaifenxiangwodeganshouhexiaoxindeba!shouxian,shenmeshichuzhouzhenne?qishijiushiwomenchangshuoderoudusu,congyixuejiaodulaishuo,tashitongguozhusheyizhongshenjingdusulaifangsongjirou,congerdadaojianshaozhouwen、fupingxiwendexiaoguo。tingqilaishibushiyoudian“kepa”?qishimeinamekepa,zhuanyedeyishenghuigenjunidefuzhihexuqiulaijingzhunzhushe,rangnihuanfanianqingdeguangcai。🌟wozhecixuanzedeshiqumoukoubeibucuodemeirongyiyuanzuode,yishengfeichangzhuanye,shouxianduiwodelianbujinxinglexiangxidefenxi,xunwenlewoxiangyaodadaodexiaoguo,haigeiwojieshaolezhenggeguochengdezhuyishixianghekenengdexiaoguo。yikaishiwoyeyoudianjinzhang,danshikandaoyishengderenzhentaiduhezhuanyexing,xinlishunjianandinglehenduo。💉jiexialaijiushizhushedeguochengle,woxuanzeleetouheyanjiaodexiwenbuwei。yishengyonghenxidezhentoujinxingzhushe,suiranhuiyouyidiandiancitong,danzhendebusuantaiyanzhong,jiuxiangshiwenzidingyaodeganjiao。zhushewanyihou,yishenggeiwojiangjieleyixieshuhouzhuyishixiang,biruyaobimianroucuozhushebuwei、buyaotangxiadengdeng。✨dayueyizhouhou,xiaoguojiumanmanxianxianchulaile,etoudexiwenmingxiandanhuale,xiaoqilaideshihouyanjiaodeyuweiwenyebunamemingxianle,zhenggerenkanqilaigengjiajingshen,liandaneryegengjiajinzhi!zhejiushiwoxiangyaodexiaoguo,ganjiaozijinianqinglehaojisui,xinqingyegen💉(💉)✨(✨)小(xiao)红(hong)书(shu)分(fen)享(xiang)✨(✨)💉(💉)哈(ha)喽(lou),(,)小(xiao)伙(huo)伴(ban)们(men)!(!)今(jin)天(tian)和(he)大(da)家(jia)聊(liao)聊(liao)我(wo)最(zui)近(jin)体(ti)验(yan)的(de)“(“)除(chu)皱(zhou)针(zhen)”(”),(,)真(zhen)的(de)是(shi)心(xin)动(dong)到(dao)不(bu)行(xing),(,)赶(gan)紧(jin)来(lai)分(fen)享(xiang)我(wo)的(de)感(gan)受(shou)和(he)小(xiao)心(xin)得(de)吧(ba)!(!)首(shou)先(xian),(,)什(shen)么(me)是(shi)除(chu)皱(zhou)针(zhen)呢(ne)?(?)其(qi)实(shi)就(jiu)是(shi)我(wo)们(men)常(chang)说(shuo)的(de)肉(rou)毒(du)素(su),(,)从(cong)医(yi)学(xue)角(jiao)度(du)来(lai)说(shuo),(,)它(ta)是(shi)通(tong)过(guo)注(zhu)射(she)一(yi)种(zhong)神(shen)经(jing)毒(du)素(su)来(lai)放(fang)松(song)肌(ji)肉(rou),(,)从(cong)而(er)达(da)到(dao)减(jian)少(shao)皱(zhou)纹(wen)、(、)抚(fu)平(ping)细(xi)纹(wen)的(de)效(xiao)果(guo)。(。)听(ting)起(qi)来(lai)是(shi)不(bu)是(shi)有(you)点(dian)“(“)可(ke)怕(pa)”(”)?(?)其(qi)实(shi)没(mei)那(na)么(me)可(ke)怕(pa),(,)专(zhuan)业(ye)的(de)医(yi)生(sheng)会(hui)根(gen)据(ju)你(ni)的(de)肤(fu)质(zhi)和(he)需(xu)求(qiu)来(lai)精(jing)准(zhun)注(zhu)射(she),(,)让(rang)你(ni)焕(huan)发(fa)年(nian)轻(qing)的(de)光(guang)彩(cai)。(。)🌟(🌟)我(wo)这(zhe)次(ci)选(xuan)择(ze)的(de)是(shi)去(qu)某(mou)口(kou)碑(bei)不(bu)错(cuo)的(de)美(mei)容(rong)医(yi)院(yuan)做(zuo)的(de),(,)医(yi)生(sheng)非(fei)常(chang)专(zhuan)业(ye),(,)首(shou)先(xian)对(dui)我(wo)的(de)脸(lian)部(bu)进(jin)行(xing)了(le)详(xiang)细(xi)的(de)分(fen)析(xi),(,)询(xun)问(wen)了(le)我(wo)想(xiang)要(yao)达(da)到(dao)的(de)效(xiao)果(guo),(,)还(hai)给(gei)我(wo)介(jie)绍(shao)了(le)整(zheng)个(ge)过(guo)程(cheng)的(de)注(zhu)意(yi)事(shi)项(xiang)和(he)可(ke)能(neng)的(de)效(xiao)果(guo)。(。)一(yi)开(kai)始(shi)我(wo)也(ye)有(you)点(dian)紧(jin)张(zhang),(,)但(dan)是(shi)看(kan)到(dao)医(yi)生(sheng)的(de)认(ren)真(zhen)态(tai)度(du)和(he)专(zhuan)业(ye)性(xing),(,)心(xin)里(li)瞬(shun)间(jian)安(an)定(ding)了(le)很(hen)多(duo)。(。)💉(💉)接(jie)下(xia)来(lai)就(jiu)是(shi)注(zhu)射(she)的(de)过(guo)程(cheng)了(le),(,)我(wo)选(xuan)择(ze)了(le)额(e)头(tou)和(he)眼(yan)角(jiao)的(de)细(xi)纹(wen)部(bu)位(wei)。(。)医(yi)生(sheng)用(yong)很(hen)细(xi)的(de)针(zhen)头(tou)进(jin)行(xing)注(zhu)射(she),(,)虽(sui)然(ran)会(hui)有(you)一(yi)点(dian)点(dian)刺(ci)痛(tong),(,)但(dan)真(zhen)的(de)不(bu)算(suan)太(tai)严(yan)重(zhong),(,)就(jiu)像(xiang)是(shi)蚊(wen)子(zi)叮(ding)咬(yao)的(de)感(gan)觉(jiao)。(。)注(zhu)射(she)完(wan)以(yi)后(hou),(,)医(yi)生(sheng)给(gei)我(wo)讲(jiang)解(jie)了(le)一(yi)些(xie)术(shu)后(hou)注(zhu)意(yi)事(shi)项(xiang),(,)比(bi)如(ru)要(yao)避(bi)免(mian)揉(rou)搓(cuo)注(zhu)射(she)部(bu)位(wei)、(、)不(bu)要(yao)躺(tang)下(xia)等(deng)等(deng)。(。)✨(✨)大(da)约(yue)一(yi)周(zhou)后(hou),(,)效(xiao)果(guo)就(jiu)慢(man)慢(man)显(xian)现(xian)出(chu)来(lai)了(le),(,)额(e)头(tou)的(de)细(xi)纹(wen)明(ming)显(xian)淡(dan)化(hua)了(le),(,)笑(xiao)起(qi)来(lai)的(de)时(shi)候(hou)眼(yan)角(jiao)的(de)鱼(yu)尾(wei)纹(wen)也(ye)不(bu)那(na)么(me)明(ming)显(xian)了(le),(,)整(zheng)个(ge)人(ren)看(kan)起(qi)来(lai)更(geng)加(jia)精(jing)神(shen),(,)脸(lian)蛋(dan)儿(er)也(ye)更(geng)加(jia)紧(jin)致(zhi)!(!)这(zhe)就(jiu)是(shi)我(wo)想(xiang)要(yao)的(de)效(xiao)果(guo),(,)感(gan)觉(jiao)自(zi)己(ji)年(nian)轻(qing)了(le)好(hao)几(ji)岁(sui),(,)心(xin)情(qing)也(ye)跟(gen)