10月13日、英議会のビジネス・イノベーション・科学・貿易委員会がAI安全に関する公聴会を開いた。OpenAIとAnthropicの代表は異例にも公然と、業界の自主的な約束だけではAIの安全を確保するには不十分であり、フロンティアモデルは拘束力のある法律で規制すべきだと訴えた。
要点は次のとおり。
- 法定の枠組みを支持：Anthropicの欧州責任者は「ルールは拘束力を持つべきだ」と明言し、自主的な約束では全く足りないとした。OpenAIの副社長も法定の枠組みと国際条約を支持し、インシデントの報告義務化を第一の内容に挙げた。
- 「緊急停止スイッチ」を約束：両社は、MI5、MI6、GCHQまたはAI安全研究所がモデルの危険性や悪用の証拠を示した場合、直ちにモデルを撤去し、展開や訓練を停止すると約束した。
- 4大ラボは2対2に分裂：Google DeepMindとMetaは新たな立法への支持を拒み、既存の基準と規制当局に従うだけだとしており、「自主規制か立法か」をめぐって業界が公然と割れていることが浮き彫りになった。
英国の現行のAI安全研究所によるテストは企業の自主的な協力に完全に依存しており、危険と見なされたモデルの公開を止める権限もない。今回の公聴会は、英国が公開前の独立テストとインシデント報告を世界で初めて法制化し、G20議長国の立場を通じて世界共通の原則を推進するきっかけとなる可能性がある。
原文リンク：原文を見る。本文は要約であり、参考情報にとどまる。
