Anthropic 向美国国会议员兜售自家 AI 安全法案草案:损失超 10 亿美元或致 50 人以上伤亡才可叫停模型

Anthropic 向美国国会议员兜售自家 AI 安全法案草案:损失超 10 亿美元或致 50 人以上伤亡才可叫停模型

据 Politico 报道,Anthropic 已悄悄向美国国会山议员兜售一份自行起草的前沿 AI 安全法案草案,尚未正式提交。Anthropic 发言人称,草案体现了公司今年早些时候发布的《Advanced AI Framework》中的主张。

草案的核心是极高的干预门槛:只有当模型带来可预见、紧迫的超 10 亿美元损失,或造成 50 人以上死亡或重伤的风险时,政府才能叫停模型的发布或使用,且风险须源于生物武器、模型逃脱自身安全控制、网络攻击三类情形之一。执行上,独立评估员须在商务部注册并定期评估前沿模型,认定紧迫风险后 72 小时内上报;商务部可请求联邦法官叫停模型,其他部门不得自行叫停。

这是负责任的自我约束,还是抢先锁定对自己有利的立法框架?

原文链接:点击查看原文,正文为摘要整理,仅供参考。

XLinkedInFacebook