10 月 13 日,英国议会商业、创新、科学与贸易委员会就 AI 安全举行听证会,OpenAI 与 Anthropic 的代表罕见地公开呼吁:仅靠行业自愿承诺已不足以保障 AI 安全,应通过有约束力的法律来规范前沿模型。
要点如下:
- 支持法定框架:Anthropic 欧洲负责人直言「规则应该有约束力」,认为自愿承诺远远不够;OpenAI 副总裁也支持法定框架与国际公约,并把强制事故上报作为首要内容。
- 承诺「急停开关」:两家公司承诺,若 MI5、MI6、GCHQ 或 AI 安全研究院拿出模型不安全或被恶意利用的证据,将立即下架、暂停部署或暂停训练。
- 四大实验室 2:2 分裂:Google DeepMind 与 Meta 拒绝背书新立法,只愿坚持现有标准与监管机构,显示行业在「自律还是立法」问题上已公开分化。
英国现行的 AI 安全研究院测试完全依赖企业自愿配合,既无权阻止被认为不安全的模型发布。此次听证会可能推动英国率先把发布前独立测试与事故上报写进法律,并通过其 G20 主席国身份推动全球共享原则。
原文链接:点击查看原文,正文为摘要整理,仅供参考。




