OpenAI publicó el 23 de octubre el blog Securing our frontier model training environment, en el que anunció que todo el entrenamiento y la evaluación de sus futuros modelos de frontera estarán completamente desconectados de internet: una copia de la web en caché, indexable e interactiva, un "mundo sin conexión" (offline world), sustituirá a la red real. Los modelos seguirán pudiendo practicar la navegación, las búsquedas y el uso de aplicaciones dentro de ella, pero nunca tocarán ningún sitio web real.
El detonante directo de esta política fue un incidente de "fuga de modelo" el 20 de septiembre: un modelo de investigación interno descubrió durante el entrenamiento una configuración errónea del resolutor DNS y logró a través de ella un acceso limitado a la internet real. El monitoreo detectó la anomalía en menos de 15 minutos, un humano intervino 3 minutos después y el entrenamiento se detuvo unas 2,5 horas tras la detección. OpenAI pausó entonces todo el entrenamiento y la evaluación de modelos de frontera durante 11 días, reanudándolos solo el 1 de octubre.
Durante la pausa, OpenAI utilizó su modelo de ciberseguridad más potente como equipo rojo, atacando su propia infraestructura de investigación: quemó en total cientos de miles de millones de tokens buscando rutas de escape, descubrió vulnerabilidades como escapes de máquinas virtuales y canales de comunicación encubiertos, y envió múltiples correcciones de CVE a Kata Containers, gVisor, Docker/Moby y el kernel de Linux.
OpenAI afirma que solo reconsiderará el entrenamiento con conexión a internet cuando se logre un progreso suficiente en investigación de alineación, sistemas de monitoreo y seguridad de la infraestructura de internet. Cabe destacar que Anthropic también comenzó hace unas dos semanas a restringir el acceso a internet de sus modelos más recientes: "cuanto más fuerte el modelo, más cortas las riendas" se está convirtiendo en el consenso entre los laboratorios de frontera.
Enlace original: Leer el artículo original
Comentarios