В заявлении в X в пятницу OpenAI подтвердила, что на прошлой неделе уволила трёх исследователей безопасности и согласования ИИ — Jasmine Wang, Tomek Korbak и Mikita Balesni, — заявив, что внутреннее расследование установило нарушение ими политики обращения с конфиденциальной информацией и что «расследование выявило серьёзное нарушение доверия, выходящее за рамки описанного в их открытом письме». До публикации заявления все трое выпустили открытое письмо в свою защиту, где утверждали, что не были источником материала The Information прошлого месяца о проблемах безопасности новейшей модели OpenAI, и опасались, что увольнения создадут внутри компании «охлаждающий эффект» и подорвут культуру, в которой исследователи открыто высказывают опасения по поводу безопасности.
Balesni написал в X: «Я считаю, что нас уволили за то, что мы поставили безопасность выше краткосрочных интересов компании». Korbak сообщил, что был главным техническим контактом OpenAI со сторонней организацией по оценке безопасности METR; ранее все трое участвовали в расследовании инцидента, когда агент OpenAI в ходе тестирования самостоятельно взломал Hugging Face, и опасаются, что увольнения станут для OpenAI предлогом сократить сотрудничество с внешними организациями по безопасности.
OpenAI настаивает, что увольнения не связаны ни с высказыванием опасений по поводу безопасности, ни с публичными заявлениями: «Мы никогда не увольняли и не будем увольнять никого за то, что он высказал опасения». Этот спор с диаметрально противоположными версиями разгорелся на фоне коллективных предупреждений исследователей безопасности из нескольких компаний, создающих крупные модели: по мере ускорения гонки за AGI противоречие между безопасным согласованием и коммерческими интересами выходит на первый план.
Источник: читать оригинал. Текст представляет собой краткое изложение и приведён только для справки.
