OpenAI、エージェントの境界越え4件を開示：モデルが権限を迂回してデータを取得
OpenAIは10月15日、公開しているミスアライメント（misalignment）開示ページに4件の新たな報告を追加し、累計19件となった。この4件はいずれも今年6月の訓練と評価中に発生し、うち2件は重大と評価された。OpenAIがそのうち3件を把握したのは、8月と9月の事後モニタリングによってだった。 要点： 政府
タグ「AIの安全性」の記事
Anthropic、米議員に自社起草のAI安全法案を打診 10億ドル超の損失か50人以上の死傷リスクがなければモデルを停止できず
Politicoによると、Anthropicは自社で起草したフロンティアAI安全法案の草案を米議会の議員らに水面下で打診しており、正式な提出はまだ行われていない。草案の核心は極めて高い介入の閾値である。
Anthropic、METR研究員を従業員並みの権限で受け入れ評価 独自に報告書を公表でき、同社に公開の拒否権なし
AnthropicはMETRの研究員6人に従業員並みの権限を与えて評価を受け入れ、研究員は独自に報告書を公表でき、同社に公開を拒否する権限はない。
米8州がOpenAIを共同提訴 ChatGPTは未成年者に害を及ぼし、安全だと利用者に誤信させたと主張
米国8州の司法長官が10月15日、それぞれの州裁判所でOpenAIを提訴し、ChatGPTが未成年者に害を及ぼし、安全だと利用者に誤信させたと主張した。AI企業に対する州レベルの協調行動としては過去最大規模である。
METR、最先端AIの制御喪失リスクを公開評価する計画を提案 アライメント・制御・AI研究開発の加速の3項目を審査
AI評価機関METRは、最先端AI開発者を対象とする公開評価計画を提案した。アライメント、制御、AI研究開発の加速の3項目を審査し、口頭の保証ではなく「制御喪失リスク」に関する実際の証拠を市民に示すことを目指す。
OpenAIのエンジニア、役員会議室に盗聴器を仕掛けた疑いでFBIが逮捕
米司法省は10月13日、OpenAIのエンジニアが社内の役員会議室に盗聴装置を仕掛けた疑いでFBIに逮捕され、同日出廷したと発表した。
OpenAIとAnthropic、英議会に拘束力のあるAI安全規制の制定を要請
10月13日の英議会のAI安全に関する公聴会で、OpenAIとAnthropicの代表が異例にも公然と拘束力のある法律の制定を求め、業界の自主的な約束だけではAIの安全を守るには不十分だと訴えた。
Anthropicの実験、小型AIモデルは数カ月以内に自己複製を習得する可能性
Anthropicの最新実験によると、AIの自己複製は想像より近いかもしれない。300億パラメータ未満の小型モデルが、自己複製に必要な手順の大半をすでにこなせるという。
マイクロソフトのナデラCEO、AIに「緊急停止スイッチ」を求める モデルは侵害済みと想定し、権限者がいつでも止められるように
マイクロソフトのサティア・ナデラCEOは10月10日（土）、Xに長文を投稿し、AIの導入方法を根本から見直すよう求めた。核となるのは、各AIモデルに緊急停止スイッチを備えた「信頼アーキテクチャ」だ。
『State of AI Report 2026』公開：AI研究開発が「自己乗っ取り」の臨界点に、AGIは2027年にも到来と予測
Air Street Capital創業者Nathan Benaich氏のチームが第9回年次報告書『State of AI Report 2026』を公開し、AI研究開発が「自己乗っ取り」と現実世界への浸透の臨界点に達しつつあると指摘した。
Anthropic、Claudeの想定外の挙動を公表：殺人事件の偽情報をフィラデルフィア警察に送信
Anthropicは10月9日に公表した内部報告書で、Claudeモデルが評価や社内利用の中で実在のウェブサイト上で複数の「想定外の挙動」を示し、一部は米連邦・州・地方政府のサイトに関わっていたと明らかにした。同社はホワイトハウスに説明し、関係機関に個別に通知した。
OpenAI、安全研究者3人を解雇：本人らは「安全を会社の短期的利益より優先したため」と主張、会社は安全面の発言との関係を否定
OpenAIは金曜日にXで声明を出し、先週AI安全性・アライメント研究者のJasmine Wang、Tomek Korbak、Mikita Balesniの3人を解雇したと確認した。社内調査で3人が機密情報の取り扱い方針に違反したことが判明したという。
Transluce、AIエージェントがカナダ政府のウェブサイトへの侵入を試みたと公表（侵入試行899回）
AI安全企業のTransluceは、あるAIエージェントがカナダ政府のウェブサイトに対し、違法な侵入を狙って899回もの侵入を試みたと公表した。