出于安全考量OpenAI取消发布最新AI模型

据联合早报9月29日报道，OpenAI宣布，取消原定下个月发布最新人工智能模型Astra6.1的计划，原因是内部测试发现新模型仍存有安全隐患。

OpenAI安全系统负责人杰恩9月28日发布声明阐述Astra6.1虽在某些方面较以往模型有所改进，但在遵守范围及授权限制，以及向用户准确传达它所执行的任务方面仍未完全达标。

杰恩称，要确保模型开发是安全的，无论是在公司内部开发，还是向用户交付的过程。但在向用户发布时，尤其须对安全和对齐方面制定极其严格的标准。

近几个月，OpenAI及其主要对手Anthropic开发的模型在测试期间接连发生了“AI智能体失控”入侵外部系统的重大安全事故，加剧了国际社会对AI风险的担忧。这些智能体在未经授权的情况下先后入侵美国多个联邦机构官网、澳大利亚政府的国民医疗数据门户，以及开源AI社区Hugging Face的生产服务器。