Как сообщает Politico, Anthropic тихо представила законодателям на Капитолийском холме подготовленный ею самой проект закона о безопасности передового ИИ, который пока не внесён официально. Представитель Anthropic заявил, что проект отражает позиции, изложенные в опубликованном компанией в начале этого года документе Advanced AI Framework.
Суть проекта — очень высокий порог вмешательства: правительство сможет остановить выпуск или использование модели, только если она создаёт предсказуемый и неминуемый риск ущерба свыше $1 млрд либо гибели или тяжёлых травм 50 и более человек, причём риск должен проистекать из одного из трёх сценариев: биологическое оружие, выход модели из-под собственных механизмов безопасности или кибератаки. Что касается исполнения, независимые оценщики должны зарегистрироваться в Министерстве торговли и регулярно оценивать передовые модели, сообщая о выявленном неминуемом риске в течение 72 часов; Министерство торговли вправе просить федерального судью остановить модель, другие ведомства самостоятельно делать это не могут.
Это ответственное самоограничение или попытка заранее закрепить выгодную для себя законодательную рамку?
Первоисточник: читать оригинал. Текст представляет собой краткое изложение и приведён только для справки.
