“AI教父”辛顿呼吁国际合作探索训练AI向善|中文字幕一区二区三区aⅴ吉川
中新网上海7月27日电(记者 吴家驹 宋宇晟)被业界称为“AI教父”的辛顿26日现身在上海举办的2025世界人工智能大会(WAIC)。
在当日的主题演讲及对话中，这位诺奖、图灵奖得主，重点谈及人工智能安全问题，并呼吁不同国家应在人工智能治理上进行合作，探索训练AI向善的方法。
人类与人工智能的关系一直是公众关心的话题。辛顿在演讲中将这一关系形容为“养小老虎当宠物”。
“有人把老虎当宠物，小虎崽是很可爱的宠物。一般来说，养老虎当宠物不是个好主意。但如果要一直养着它，只有两个选择：想办法训练它让它永远不想吃了你，或者摆脱它。”
辛顿认为，对于AI，我们没有摆脱它的选项，AI对医疗保健、教育、气候变化、新材料等太多事情都非常有用，能为几乎所有行业提供帮助并使人类更具生产力。
在当日与上海人工智能实验室主任周伯文的对话中，辛顿进一步表示：“当今的多模态聊天机器人已经具有意识。”
辛顿认为，人类正在创造的AI智能体已经具备创造自己子目标的能力。而一旦拥有创造子目标的能力，智能体就会想做两件事：一是生存，仅仅是为了能够实现我们赋予它们的目标；二是更多的控制权，也仅仅是为了能够实现我们赋予它们的目标。
因此，如果人类想要生存，就必须找到办法训练AI向善。
辛顿建议建立一个由AI安全机构构成的国际社群，致力于研发训练AI向善的技术。
他认为，实现训练AI向善所需的技术与训练AI变得更聪明的技术，在某种程度上是分离的，让一个真正聪明的AI不想接管世界，即使它比大多数人聪明得多，也非常乐意处于人类的辅助角色。
辛顿认为，未来会有某种通用的AI训练方法，来使AI变得善良。“这可能并不真实，但我们应该探索这种可能性。”
“我们目前不知道如何做到这一点，长远来看，这是人类面临的最重要的问题。好消息是，在这个问题上，所有国家都可以一起合作。”辛顿说。(完)
zhenduishangshuqingkuang，tongyongqichegaoguanbiaoshi，qiyeduiniuzhuanzhongguoshichangdexiaoshoujumianrengyouxinxin，tamenxiwangqixiaxinnengyuanchexingnengzaizhongguoshichangjixufali。jupengboshebaodao，tongyongqichedongshichangjianshouxizhixingguanmali·bolaciqianbiaoshi，“dangniguanchazhongguoshichangshi，huifaxiantayu5nianqianyouhendabutong。womenxiwangnenggouyizhengquedefangshicanyudaozhegeshichangzhong。”jinguanzaizhongguoshichangfenezhanbibuda，dansitelandisiyekanhaozhongguoshichang，bing“rugu”zhongguocheqi。qunian10yue，sitelandisixuanbuyuzhongguolingpaoqichechengweiquanqiuzhanlvehuoban，bingxianghouzhetouzi15yiouyuan。针(zhen)对(dui)上(shang)述(shu)情(qing)况(kuang)，(，)通(tong)用(yong)汽(qi)车(che)高(gao)管(guan)表(biao)示(shi)，(，)企(qi)业(ye)对(dui)扭(niu)转(zhuan)中(zhong)国(guo)市(shi)场(chang)的(de)销(xiao)售(shou)局(ju)面(mian)仍(reng)有(you)信(xin)心(xin)，(，)他(ta)们(men)希(xi)望(wang)旗(qi)下(xia)新(xin)能(neng)源(yuan)车(che)型(xing)能(neng)在(zai)中(zhong)国(guo)市(shi)场(chang)继(ji)续(xu)发(fa)力(li)。(。)据(ju)彭(peng)博(bo)社(she)报(bao)道(dao)，(，)通(tong)用(yong)汽(qi)车(che)董(dong)事(shi)长(chang)兼(jian)首(shou)席(xi)执(zhi)行(xing)官(guan)玛(ma)丽(li)·(·)博(bo)拉(la)此(ci)前(qian)表(biao)示(shi)，(，)“(“)当(dang)你(ni)观(guan)察(cha)中(zhong)国(guo)市(shi)场(chang)时(shi)，(，)会(hui)发(fa)现(xian)它(ta)与(yu)5(5)年(nian)前(qian)有(you)很(hen)大(da)不(bu)同(tong)。(。)我(wo)们(men)希(xi)望(wang)能(neng)够(gou)以(yi)正(zheng)确(que)的(de)方(fang)式(shi)参(can)与(yu)到(dao)这(zhe)个(ge)市(shi)场(chang)中(zhong)。(。)”(”)尽(jin)管(guan)在(zai)中(zhong)国(guo)市(shi)场(chang)份(fen)额(e)占(zhan)比(bi)不(bu)大(da)，(，)但(dan)斯(si)特(te)兰(lan)蒂(di)斯(si)也(ye)看(kan)好(hao)中(zhong)国(guo)市(shi)场(chang)，(，)并(bing)“(“)入(ru)股(gu)”(”)中(zhong)国(guo)车(che)企(qi)。(。)去(qu)年(nian)1(1)0月(yue)，(，)斯(si)特(te)兰(lan)蒂(di)斯(si)宣(xuan)布(bu)与(yu)中(zhong)国(guo)零(ling)跑(pao)汽(qi)车(che)成(cheng)为(wei)全(quan)球(qiu)战(zhan)略(lve)伙(huo)伴(ban)，(，)并(bing)向(xiang)后(hou)者(zhe)投(tou)资(zi)1(1)5(5)亿(yi)欧(ou)元(yuan)。(。)