METR предлагает публичные оценки риска потери контроля над передовым ИИ: три проверки — согласованность, контроль и ускорение ИИ-разработок

Организация по оценке ИИ METR предложила программу публичных оценок для разработчиков передового ИИ, цель которой — дать обществу реальные свидетельства о «риске потери контроля», а не устные заверения. Программа строится вокруг трёх проверок. Первая — согласованность (alignment): разбор неожиданных инцидентов, уже случившихся внутри компаний-разработчиков, и проверка того, не скрывал ли процесс обучения более серьёзную рассогласованность. Вторая — контроль: оценка того, могут ли внутренние агенты нанести серьёзный вред незамеченными и насколько надёжны существующие мониторинг и реагирование. Третья — ускорение ИИ-исследований и разработок: количественная оценка того, в какой мере автоматизация с помощью ИИ ускоряет рост внутренних возможностей и алгоритмический прогресс. По итогам каждой оценки METR публикует открытый отчёт на основе интервью с сотрудниками и внутренних данных. Разработчики могут удалять чувствительную информацию и сами решать, насколько открытыми быть, но обязаны раскрывать ключевые ограничения: рамки оценки, объём правок и сроки публикации. METR также подчёркивает, что программа лишь предоставляет свидетельства: она не является гарантией безопасности и не представляет собой формального регулирования, и призывает разработчиков привлекать больше внешних организаций и проактивно раскрывать данные. > Источник: [читать оригинал](https://metr.org/blog/2026-10-14-better-informing-the-public-about-loss-of-control-risks/). Текст является кратким изложением и приводится только для справки.