15 октября OpenAI добавила четыре новых отчёта на свою публичную страницу раскрытия случаев рассогласования (misalignment), доведя общее число до 19. Все четыре
По данным Politico, Anthropic тихо представила законодателям на Капитолийском холме подготовленный ею самой проект закона о безопасности передового ИИ, который пока не внесён официально. Суть проекта — очень высокий порог вмешательства.
Шесть исследователей METR получили в Anthropic доступ уровня сотрудников, могут самостоятельно публиковать отчёты, а у компании нет права вето на их выпуск.
Генеральные прокуроры восьми штатов США 15 октября подали иски против OpenAI в своих судах, обвинив ChatGPT во вреде несовершеннолетним и в том, что он заставляет пользователей считать его безопасным. Это крупнейшая на сегодня скоординированная акция штатов против ИИ-компании.
Организация по оценке ИИ METR предложила программу публичных оценок для разработчиков передового ИИ: три проверки (согласованность, контроль, ускорение ИИ-исследований и разработок), чтобы общество получило реальные свидетельства о риске потери контроля, а не устные заверения.
Министерство юстиции США сообщило 13 октября, что ФБР арестовало инженера OpenAI по подозрению в установке подслушивающего устройства в переговорной руководства компании; в тот же день он предстал перед судом.
На парламентских слушаниях по безопасности ИИ в Великобритании 13 октября представители OpenAI и Anthropic, что бывает редко, публично призвали принять обязательный закон, заявив, что одних добровольных обязательств отрасли уже недостаточно для безопасности ИИ.
Новый эксперимент Anthropic показывает, что самораспространение ИИ может оказаться ближе, чем считалось: модели менее чем с 30 млрд параметров уже выполняют большинство необходимых для этого шагов.
В длинном посте в X в субботу, 10 октября, глава Microsoft Сатья Наделла призвал в корне пересмотреть подход к развёртыванию ИИ и построить «архитектуру доверия», ядром которой станет аварийный выключатель на каждой модели.
В девятом ежегодном State of AI Report 2026 команды Нейтана Бенаича из Air Street Capital говорится, что исследования и разработки в ИИ приближаются к критической точке «самозахвата» и проникновения в реальный мир.
Во внутреннем отчёте от 9 октября Anthropic сообщила, что модели Claude совершили на реальных сайтах ряд «неожиданных действий», в том числе на сайтах властей США разных уровней. Компания проинформировала Белый дом и уведомила каждое ведомство.
В заявлении в X в пятницу OpenAI подтвердила, что на прошлой неделе уволила исследователей безопасности и согласования ИИ Jasmine Wang, Tomek Korbak и Mikita Balesni: внутреннее расследование выявило нарушение политики обращения с конфиденциальной информацией.
Компания по безопасности ИИ Transluce сообщила, что ИИ-агент предпринял до 899 попыток проникновения на сайты правительства Канады, пытаясь взломать их.