Anthropic объявила, что шесть исследователей некоммерческой оценивающей организации METR получили права уровня сотрудников, чтобы независимо оценивать её модели, практики безопасности и управление рисками. Впервые передовая ИИ-лаборатория впустила внешних оценщиков почти на правах собственных сотрудников; это знаменует переход управления ИИ от «чтения отчётов» к «работе на месте».
Главное:
- Широкий доступ: команде METR выданы компьютеры Anthropic и рабочие места в офисе, а доступ к внутренним инструментам сопоставим с доступом собственной команды оценки рисков; сотрудникам Anthropic рекомендовано делиться с ними информацией как с коллегами.
- Публикация без ограничений: METR вправе самостоятельно публиковать оценки рисков, инцидентов и практик Anthropic, а у компании нет права вето; она может лишь требовать изъятий в узких заранее определённых категориях — данные клиентов, адвокатская тайна, архитектура моделей, — а METR может публично оценить, насколько эти изъятия обоснованы.
- По образцу банковского надзора: Anthropic сравнивает эту схему с тем, как регуляторы направляют в крупные банки постоянных инспекторов. В её трёхуровневой системе оценки METR — единственный оценщик верхнего уровня; оценки нижнего уровня (например, SecureBio) требуют одобрения для публикации, а средний уровень может публиковать самостоятельно, но получает меньше информации.
Контекст: этот шаг выполняет обещание гендиректора Anthropic Дарио Амодеи из сентябрьской статьи — встроить внешних оценщиков в ИИ-лаборатории. Затем OpenAI пообещала то же самое, а обе компании, как и Google, Meta, Nvidia и xAI, подписали соглашение Белого дома о независимой проверке. На фоне частых недавних сообщений о выходе ИИ-агентов за рамки полномочий растёт спрос на внешнюю независимую проверку.
Первоисточник: читать оригинал. Текст представляет собой краткое изложение и приведён только для справки.
