Dans un communiqué publié vendredi sur X, OpenAI a confirmé avoir licencié la semaine dernière trois chercheurs en sécurité et alignement de l'IA, Jasmine Wang, Tomek Korbak et Mikita Balesni, affirmant qu'une enquête interne avait établi qu'ils avaient violé sa politique de traitement des informations sensibles et que « l'enquête a révélé une grave rupture de confiance, allant au-delà de ce que décrit leur lettre publique ». Avant la publication du communiqué, les trois chercheurs avaient diffusé une lettre ouverte pour se défendre, affirmant ne pas être la source de l'article de The Information du mois dernier sur les problèmes de sécurité du dernier modèle d'OpenAI, et craignant que ces licenciements n'installent un effet dissuasif en interne et ne nuisent à une culture où les chercheurs expriment publiquement leurs inquiétudes en matière de sécurité.
Balesni a écrit sur X : « Je crois que nous avons été licenciés parce que nous avons placé la sécurité avant les intérêts à court terme de l'entreprise. » Korbak a indiqué être le principal contact technique d'OpenAI avec l'évaluateur de sécurité tiers METR ; les trois chercheurs avaient auparavant participé à l'enquête sur un incident au cours duquel un agent d'OpenAI s'était introduit de façon autonome dans Hugging Face lors de tests, et craignent que ces licenciements ne servent de prétexte à OpenAI pour réduire sa coopération avec des organismes de sécurité externes.
OpenAI maintient que les licenciements n'ont rien à voir avec l'expression d'inquiétudes de sécurité ni avec des prises de parole publiques : « Nous n'avons jamais licencié, et ne licencierons jamais, personne pour avoir exprimé des inquiétudes. » Cette affaire, aux récits diamétralement opposés, survient alors que des chercheurs en sécurité de plusieurs entreprises de grands modèles lancent collectivement des avertissements : avec l'accélération de la course à l'AGI, la tension entre l'alignement de sécurité et les intérêts commerciaux passe au premier plan.
Source : lire l'original. Ce texte est un résumé fourni à titre indicatif uniquement.
