METR、最先端AIの制御喪失リスクを公開評価する計画を提案　アライメント・制御・AI研究開発の加速の3項目を審査

AI評価機関のMETRは、最先端AI開発者を対象とした公開評価計画を提案した。口頭での保証ではなく、「制御喪失リスク」に関する実際の証拠を市民が得られるようにすることが狙いだ。 計画は3つの審査を軸とする。1つ目はアライメントで、開発者の内部ですでに起きた予期せぬ事案を振り返り、訓練の過程でより深刻なミスアライメントが覆い隠されていなかったかを調べる。2つ目は制御で、社内のエージェントが発覚しないまま深刻な害をもたらし得るか、また既存の監視と対応が信頼できるかを評価する。3つ目はAI研究開発の加速で、AIによる自動化が社内の能力向上とアルゴリズムの進歩をどの程度押し上げているかを定量化する。 評価ではMETRが、従業員への聞き取りと内部データに基づいて公開報告書を作成する。開発者は機密情報を削除でき、公開の度合いも自ら決められるが、評価の範囲、削除の状況、公表時期といった主要な制約は公開しなければならない。METRはまた、この計画が提供するのは証拠のみであり、安全性の保証ではなく、正式な規制にも当たらないと強調し、開発者に外部機関のさらなる関与と、証拠の自発的な公開を促している。 > 原文リンク：[原文を見る](https://metr.org/blog/2026-10-14-better-informing-the-public-about-loss-of-control-risks/)。本文は要約であり、参考情報にとどまる。