13 октября комитет парламента Великобритании по предпринимательству, инновациям, науке и торговле провёл слушания по безопасности ИИ. Представители OpenAI и Anthropic, что бывает редко, публично заявили: одних добровольных обязательств отрасли уже недостаточно для безопасности ИИ, и передовые модели следует регулировать обязательным законом.
Основные моменты:
- Поддержка законодательной основы: Руководитель Anthropic по Европе прямо заявил, что «правила должны быть обязательными», и счёл добровольные обязательства явно недостаточными; вице-президент OpenAI также поддержал законодательную основу и международную конвенцию, поставив на первое место обязательное сообщение об инцидентах.
- Обещание «аварийного выключателя»: Обе компании пообещали, что если MI5, MI6, GCHQ или Институт безопасности ИИ предоставят доказательства небезопасности модели или её злонамеренного использования, они немедленно снимут её с использования, приостановят развёртывание или обучение.
- Раскол четырёх лабораторий 2:2: Google DeepMind и Meta отказались поддержать новое законодательство и хотят придерживаться лишь действующих стандартов и регуляторов, что показывает: отрасль уже открыто разделилась по вопросу «саморегулирование или закон».
Нынешние тесты британского Института безопасности ИИ полностью зависят от добровольного сотрудничества компаний, а у института нет полномочий остановить выпуск модели, признанной небезопасной. Эти слушания могут подтолкнуть Великобританию стать первой страной, закрепившей в законе независимое тестирование перед выпуском и сообщение об инцидентах, и продвигать общие глобальные принципы благодаря председательству в G20.
Источник: читать оригинал. Текст является кратким изложением и приводится только для справки.
