傅莹：地缘政治干扰令许多人对中美AI合作不乐观

中国外交部原副部长傅莹10日在法国巴黎出席AI行动峰会“人工智能时代的治理论坛”时表示，人工智能（AI）全球安全治理应超越地缘政治干扰，中方愿与国际社会携手，共同促进AI安全发展。

巴黎人工智能行动峰会及其框架下的峰会活动于2月6日至11日举行，会议旨在加强国际社会的行动力，探讨人工智能的应用和全球治理问题。由托尼·布莱尔全球变革研究所主办“人工智能时代的治理论坛”的是其间边会之一，意大利前总理、TBI战略顾问伦齐致开幕词。傅莹应邀在“推进人工智能安全科学”一节担任嘉宾，其他嘉宾包括蒙特利尔大学教授、蒙特利尔学习算法研究所创始人约舒亚·本乔（Yoshua Bengio）和普林斯顿高等研究院教授阿隆德拉·纳尔逊（Alondra Nelson），大家进行了严肃而不失幽默的热烈讨论。之后傅莹在闭门晚宴上发言，并在峰会期间与各国专家学者就共同关心的问题交流。

关于中国人怎么看AI安全问题，为何没有建立“人工智能安全研究所（AISI）”？傅莹说，中方已经在政府支持下成立了对应AISI的“中国人工智能发展与安全研究网络”。中国在AI技术应用和安全治理领域存在一个多元化和多样化的生态环境，有多个政府部门和机构、企业在关注和投入安全治理问题。建立这样的网络而不是一个研究所，是为了让大家都能参加进来，分享知识、信息，增强能力建设，同时积极参加国际对话合作。中方参加了英国的布莱奇利峰会，并一直在关注各国AISI进程，中国科技界也与各国同行保持密切沟通。

关于中方怎么看人工智能技术的发展和应用带来的风险，傅莹表示，在中国，人们对AI风险的关注大致在两个层面。一个是技术应用中的风险。中国政府2017年制定了《新一代人工智能发展规划》，提出AI安全、可控与可持续发展的要求。目前AI已在经济、金融、城市管理、医疗和科研等领域全面应用,当然，风险与挑战也是存在的，对管控风险和对相关应对技术的需求都很迫切。中国在网络管理法律法规的实践基础上，就AI管理陆续出台法律和规范性文件，基本思路是在鼓励创新和防范、管控风险之间保持平衡。同时，一批专门应对AI安全问题的技术创新企业也应运而生。

她表示，另一个是技术发展中的风险。中方着眼未来风险积极参与国际合作。中国政府2023年10月发布了《全球人工智能治理倡议》，强调智能向善，主张建立风险等级测试评估体系。中方签署了《布莱奇利宣言》。2024年7月1日，第78届联合国大会期间，中国提出的加强人工智能能力建设国际合作决议获得协商一致通过，得到140多个国家支持。中方对AGI（通用人工智能）风险的理论和技术探讨也高度关注，中国科技界与国际同行在认识层面基本同步。约舒亚·本乔领衔撰写的《国际人工智能安全报告》在中国受到关注，报告中提到“社会和政府在如何应对AI不确定性的决策，将决定人类走向何方”值得人们深思。

谈到到中美关系和两国能否在AI上开展合作时，傅莹表示，当前地缘政治的干扰令许多人对中美AI合作不乐观。她回忆2019年基辛格与施密特在北京参加AI安全圆桌会时，谈到对AI未来风险的担忧。她曾回应说，如若中美携手与世界各国合作，人类应该有可能管控机器，但若相互排斥，甚至试图利用高智能机器搞对抗，机器赢的概率恐怕更大。

她表示，过去几年美国对华科技封锁和打压毒化了全球合作的氛围。如果将21世纪第三个十年的世界形势绘制成一幅平面图，可以看到科技创新指数级上扬的曲线，也可以看到中美两国关系波动的曲线，这两条线不可避免地发生交叉。在这个科技大爆发的时代，人类最需要动员全部的智慧与能量开展合作之际，主要国家却试图关闭合作平台。

与此同时，可以看到两个平行的动态趋势。一是美国在虚拟世界的研发上领先，前沿技术公司和科技人员在AI技术上快速创新发展，并且拥有巨额的资本支撑；另一个是中国在现实世界的垂直应用上领先，正在推动广泛和深入的技术应用和创新，拥有强大的制造业和广阔的市场基础。从人类技术发展的历史进程可以自然地预期，这两股力量的结合是未来AI安全、负责任应用的最佳出路。然而，从过去几年的情况看，许多人认为前景似乎不那么光明。因此，地缘政治的干扰可以被认为是对AI安全需要关注的第三个层面。

中方对中美合作和全球治理保持相对冷静的积极态度，提出两国应该在分歧问题上尊重彼此核心利益和重大关切，坚持相互尊重、和平共处、合作共赢的原则。

谈到国际上关于AI技术发展的开源和闭源两种路径时，傅莹说，现阶段，从中国学界和企业的角度看，开源虽有风险，却有利于及时发现和处理安全漏洞，而且符合中方关于技术造福人民的理念。相较之下，有些国家部分公司完全不透明的大模型更容易令人产生安全担忧。同台嘉宾约舒亚本乔则担心开源技术被不法分子利用，但他也承认，开源更易发现潜在问题。