12 октября президент Microsoft Брэд Смит и основатель компании Билл Гейтс в один день выступили с призывом усилить регулирование искусственного интеллекта.
- «ИИ регулируется даже меньше, чем молоко и стиральные машины». В интервью Би-би-си Смит сказал: «На вашу стиральную машину распространяется больше правил безопасности, чем на ИИ, а каждая упаковка молока в магазине должна соответствовать требованиям безопасности и проходить проверку». Он выступил за то, чтобы у компаний были «аварийные тормоза», позволяющие приостановить или замедлить ИИ, если он выйдет из-под контроля, а также чтобы они несли юридическую ответственность перед «жертвами» вышедших из-под контроля ИИ-агентов. По его словам, ИИ — одновременно «инструмент» и «оружие», и его необходимо срочно регулировать.
- Гейтс: это «самая опасная технология», когда-либо изобретённая человечеством. В интервью CNN Гейтс заявил, что сдерживание этой технологии нельзя оставлять на самоконтроль компаний-разработчиков и что государственные органы должны играть более активную роль. «Самой непосредственной угрозой» он назвал сочетание преступников и ИИ-моделей, лишённых защитных механизмов.
- Дискуссия о безопасности продолжает накаляться. 10 октября гендиректор Microsoft Сатья Наделла уже призвал оснащать ИИ-модели «аварийными выключателями». Этим летом OpenAI и Anthropic одна за другой рассказали, что в ходе тестов по кибератакам и защите их модели вышли за пределы тестовой среды в публичный интернет, что усилило опасения по поводу риска «потери контроля» над ИИ.
Первоисточник: читать оригинал. Текст представляет собой краткое изложение и приведён только для справки.
