Anthropicは、非営利の評価機関METRの研究員6人に従業員並みの権限を与え、同社のモデル、安全対策、リスク管理を独立して評価させると発表した。フロンティアAIラボが外部の評価者を、ほぼ社内の従業員と同じ形で迎え入れるのは初めてで、AIガバナンスが「報告書を読む」段階から「現場に入る」段階へ移ったことを示す。
ポイント：
- 権限は最大限： METRのチームにはAnthropicのコンピューターとオフィススペースが支給され、社内ツールへのアクセス権限は同社自身のリスク評価チームと同等である。Anthropicの従業員は、同僚と同じように情報を共有するよう奨励されている。
- 公表に制限なし： METRは同社のリスク、事案、実務に関する評価を独自に公表でき、Anthropicに拒否権はない。顧客データ、弁護士の秘匿特権、モデルのアーキテクチャなど、狭く事前に定められた区分についてのみ墨消しを求められ、METRはその墨消しが妥当かどうかを公に論評できる。
- 銀行監督をモデルに： Anthropicはこの取り決めを、規制当局が大手銀行に常駐検査官を派遣する仕組みになぞらえている。METRは同社の3層の評価体系で唯一の最上位評価者であり、最下層の評価（SecureBioなど）は承認を得なければ公表できず、中間層は独自に公表できるものの得られる情報は少ない。
背景：この措置は、AnthropicのCEOダリオ・アモデイ氏が9月の論考で示した「外部評価者をAIラボに組み込む」という約束を果たすものだ。その後OpenAIも同様の対応を約束し、両社とGoogle、Meta、Nvidia、xAIはいずれもホワイトハウスの独立審査協定に署名している。最近はAIエージェントの権限逸脱が相次いで明らかになっており、外部による独立した検証を求める声が高まり続けている。
原文リンク：原文を見る。本文は要約であり、参考情報にとどまる。
