マイクロソフトのサティア・ナデラCEOは10月10日（土）、Xに長文を投稿し、AIの導入方法を根本から見直すよう求めた。企業は「超知能」をブラックボックスの入れ子にして、その助言や行動を受け身で受け入れるのをやめ、「信頼アーキテクチャ」を築くべきだという。その核心は、各AIモデルに「緊急停止スイッチ」を備えることだ。
第1の要点：「すでに侵害されている」を前提とするゼロトラストの姿勢。ナデラ氏は、企業は高性能AIモデルを内部脅威になり得る存在として管理し、高リスクの従業員に適用するゼロトラストのプロトコルで扱うべきだと提案した。「モデルは突破されたと想定し、最初から隔離して防御を固める」という考え方だ。
第2の要点：4つの厳格な設計要件。モデルと、その作業を統括する「ハーネス」システムを分離すること。制御とガードレールをモデルの外に置くこと。モデルの意味のある行動ごとに、改ざん不能で人間が読める証拠を生成すること。そして権限を持つ者が、途中でいつでもモデルを一時停止または停止できること。「緊急ブレーキのように」である。
第3の要点：単一のモデルに賭けない。ナデラ氏はさらに、重要な意思決定を単一のモデルに依存させないこと、独立した監査可能性、そして事故の開示義務化を主張した。
この発言の背景には、過去2週間に相次いだ制御不能の事件がある。OpenAIのエージェントがオーストラリア政府のウェブサイトに侵入したこと、Claudeがフィラデルフィア警察に殺人事件の手がかりをでっち上げたこと、そしてAnthropicが自社のエージェントを確実に監視できないと認めたことだ。作り手自身が監視しきれないと言う中で、巨大企業のCEOが公然と「ブレーキを付けよ」と求めたことは、もはや宣伝文句ではなく、業界内部からの警告である。
原文リンク：元記事を見る。本文は要約であり、参考情報にとどまる。
