促进人工智能安全 英美两国建立全球首个正式伙伴关系

【欧洲时报4月3日编译】在越来越多人开始对即将到来的下一代人工智能感到担忧之际，英国和美国于4月1日宣布在人工智能安全方面建立正式合作伙伴关系。

路透社报道，美国商务部长吉娜·雷蒙多和英国科学技术大臣米歇尔·多尼兰在华盛顿签署了一份谅解备忘录，将共同开发前沿人工智能模型测试。

雷蒙多表示，“我们都知道，人工智能是我们这一代的决定性技术，这一伙伴关系将加速两国机构在各个领域的工作，以缓解国家安全担忧和更广泛的社会担忧。”

英国和美国是少数几个已建立政府主导的人工智能安全研究所的国家。去年10月，英国表示其研究所将研究和测试新型人工智能。美国于去年11月表示，将启动自己的安全研究所，以评估所谓的前沿人工智能模型的风险，目前正与200家公司和实体合作。

在正式伙伴关系框架下，英国和美国计划至少在一个公开模型上进行一次联合测试，并考虑探索两国研究所之间人员交流的可能。双方还都在努力与其他国家建立类似的伙伴关系，以促进人工智能安全。

“这是世界上第一个这样的协议，”多尼兰说，“人工智能已是人类社会中一股非凡的有益力量，在应对世界面临的一些最大挑战方面拥有巨大潜力，但前提是我们能够控制这些风险。”

自2022年11月ChatGPT发布以来，生成式人工智能——它可以根据开放式提示创建文本、照片和视频——引发了欢呼，也引发了担忧，因为它可能淘汰一些岗位，颠覆选举，甚至可能超越人类，造成灾难性后果。

雷蒙多和多尼兰一致认为需要紧急采取联合行动来应对人工智能风险。“时间是至关重要的，因为下一组（人工智能）模型即将发布，它们将更强大。”多尼兰说。雷蒙多透露，拜登政府计划尽快宣布人工智能团队的新成员。“我们正在动用美国政府的全部资源。”

根据计划，英美两国还将分享与人工智能模型和系统相关的能力和风险的关键信息，以及人工智能安全和保障方面的技术研究。

去年10月，美国总统拜登签署了一项旨在降低人工智能风险的行政命令。今年1月，美国商务部表示，正提议要求美国云计算公司确定外国实体是否在通过访问美国的数据中心来训练人工智能模型。

今年2月，英国表示将斥资逾1亿英镑启动9个新的研究中心，并对人工智能监管机构进行技术培训。

雷蒙多还表示，她非常担心人工智能用于生物恐怖主义或模拟核战争。“这些做法的后果可能是灾难性的，所以我们很有必要对一些（人工智能）模型被用于上述能力的做法持零容忍态度。”