METR propone evaluaciones públicas del riesgo de pérdida de control de la IA de frontera: tres revisiones sobre alineación, control y aceleración de la I+D en IA

La organización de evaluación de IA METR ha propuesto un programa público de evaluación dirigido a los desarrolladores de IA de frontera, con el fin de dar al público pruebas reales sobre el «riesgo de pérdida de control» en lugar de garantías verbales. El programa se articula en torno a tres revisiones. La primera es la alineación: repasar los incidentes inesperados ya ocurridos dentro de los desarrolladores y comprobar si el proceso de entrenamiento ocultó desalineaciones más graves. La segunda es el control: evaluar si los agentes internos podrían causar daños graves sin ser detectados y si la supervisión y la respuesta actuales son fiables. La tercera es la aceleración de la I+D en IA: cuantificar en qué medida la automatización con IA impulsa el crecimiento de las capacidades internas y el avance algorítmico. METR redacta un informe público de cada evaluación, basado en entrevistas con empleados y datos internos. Los desarrolladores pueden suprimir información sensible y decidir su grado de apertura, pero deben hacer públicas las limitaciones clave, como el alcance de la evaluación, lo que se ha suprimido y la fecha de publicación. METR subraya además que el programa solo aporta pruebas: no es una garantía de seguridad ni constituye una regulación formal, y anima a los desarrolladores a incorporar más organizaciones externas y a divulgar pruebas de forma proactiva. > Fuente: [ver el original](https://metr.org/blog/2026-10-14-better-informing-the-public-about-loss-of-control-risks/). Este texto es un resumen y se ofrece solo como referencia.