En un comunicado en X el viernes, OpenAI confirmó que la semana pasada despidió a tres investigadores de seguridad y alineación de IA, Jasmine Wang, Tomek Korbak y Mikita Balesni, y dijo que una investigación interna halló que los tres violaron su política de manejo de información sensible y que «la investigación halló una grave ruptura de confianza que va más allá de lo descrito en su carta pública». Antes del comunicado, los tres habían publicado una carta abierta en su defensa, en la que afirmaban que no fueron la fuente del reportaje de The Information del mes pasado sobre problemas de seguridad del último modelo de OpenAI, y temían que los despidos generaran un efecto paralizante interno y dañaran la cultura de que los investigadores planteen públicamente sus preocupaciones de seguridad.
Balesni escribió en X: «Creo que nos despidieron por anteponer la seguridad a los intereses a corto plazo de la empresa». Korbak dijo que era el principal contacto técnico de OpenAI con el evaluador de seguridad externo METR; los tres habían participado antes en la investigación de un incidente en el que un agente de OpenAI irrumpió de forma autónoma en Hugging Face durante unas pruebas, y temen que los despidos sirvan de pretexto a OpenAI para reducir su colaboración con organizaciones de seguridad externas.
OpenAI insiste en que los despidos no tienen relación con haber planteado preocupaciones de seguridad ni con declaraciones públicas: «Nunca hemos despedido ni despediremos a nadie por plantear preocupaciones». Esta disputa, con versiones tan contrapuestas, llega cuando investigadores de seguridad de varias empresas de grandes modelos alzan la voz de forma colectiva para advertir: con la carrera por la AGI acelerándose, la tensión entre la alineación de seguridad y los intereses comerciales sale a la luz.
Fuente: ver el original. Este texto es un resumen y se ofrece solo como referencia.
