人工智能越发“聪明” 业内人士呼吁全球合作应对风险|嫩bbb搡bbb搡bbb四川

　　中新社上海7月27日电 (记者 李晓喻 郑莹莹)人工智能浪潮已至。2025世界人工智能大会暨人工智能全球治理高级别会议举行期间，与会人士呼吁全球合作应对大潮中隐藏的“暗礁”。

　　时下，作为新一轮科技革命和产业变革的重要驱动力量，人工智能正带来前所未有发展机遇。用AI算法驱动生产，请AI“健康管家”根据个性化营养需求定制食谱，通过AI系统优化红绿灯配时、缓解交通拥堵……人工智能技术正深度融入社会经济的方方面面，走进人们的日常生活。

　　美国公司Relativity Space执行董事长兼首席执行官埃里克·施密特预计，今后两年将涌现一大批AI智能体，可以通过语言记忆来完成任务，即人类发出语言指令，智能体记住指令并采取行动。这将对企业产生巨大影响。

　　中国人工智能企业MiniMax创始人、首席执行官闫俊杰注意到，AI正不断拓展应用场景，还在与人类一起持续改进AI自身。今后，AI将日益强大，且这种变化“有可能是无止境的”。

　　但与此同时，人工智能也带来前所未遇的风险挑战。如何确保人工智能安全可控，始终沿着人类文明进步方向发展，是与会人士最为关注的问题之一。

　　上海人工智能实验室主任、首席科学家周伯文表示，当前人工智能的特点是通用性、可复制和开源。AI的发展和安全同样重要，二者并非零和游戏。

　　“我们目前仍然没有科学方法来确保人工智能的安全性，也无法确保人工智能可以始终符合人类意愿，并被人类控制。”图灵奖得主约书亚·本吉奥直言。

　　在2024年诺贝尔物理学奖得主杰弗里·辛顿看来，人类已习惯作为顶级智能存在，很难想象被更高级智能主导。“就像饲养虎崽作为宠物，我们必须确保其成年后不会反噬。”

　　杰弗里·辛顿认为，如何训练已经相当聪明的AI，使其甘于辅助人类，是各国应当通力合作的重要议题。他主张建立一个由各国人工智能安全研究机构与协会组成的国际化社群，促进AI向善。

　　如何避免发展中国家深陷智能鸿沟，也是亟待解决的一大问题。此前有业内人士指，发达国家总体上掌握着比发展中国家更先进的人工智能技术，这进一步影响了后者在国际舞台上的话语权。

　　美国约翰斯·霍普金斯大学政府与政策学院教授吉莉安·哈德菲尔德说，应当确保各国，尤其是那些尚未从工业革命中充分获益的国家都能从人工智能发展中受益。

　　规避这些“暗礁”，步伐已经迈出。2025世界人工智能大会暨人工智能全球治理高级别会议发表《人工智能全球治理行动计划》称，及时开展人工智能风险研判，提出针对性防范应对措施，构建具有广泛共识的安全治理框架。

　　此外，行动计划还明确提出，支持各国特别是全球南方结合自身国情发展人工智能技术和服务，助力全球南方真正接触和应用人工智能，推动人工智能包容普惠发展。

　　中国政府26日倡议成立世界人工智能合作组织，初步考虑总部设在上海。这是中方坚持践行多边主义、推动共商共建共享全球治理的重要举措，也是中方响应全球南方呼声、助力弥合数字和智能鸿沟、促进人工智能向善普惠发展的实际行动。(完)