Anthropic anunció que seis investigadores de la organización evaluadora sin ánimo de lucro METR han recibido acceso de nivel empleado para evaluar de forma independiente sus modelos, sus prácticas de seguridad y su gestión de riesgos. Es la primera vez que un laboratorio de IA de frontera incorpora a evaluadores externos casi como si fueran personal interno, lo que marca el paso de la gobernanza de la IA de «leer informes» a «estar sobre el terreno».
Puntos clave:
- Acceso total: el equipo de METR recibe ordenadores y espacio de oficina de Anthropic, con acceso a herramientas internas equiparable al de su propio equipo de evaluación de riesgos; se anima a los empleados de Anthropic a compartir información con ellos como lo harían con cualquier colega.
- Publicación sin restricciones: METR puede publicar de forma independiente sus evaluaciones sobre los riesgos, incidentes y prácticas de Anthropic, y esta no tiene derecho de veto; solo puede pedir que se eliminen fragmentos en categorías estrechas y predefinidas, como datos de clientes, secreto profesional de los abogados y arquitectura de los modelos, y METR puede opinar públicamente sobre si esas supresiones son razonables.
- Con el modelo de la supervisión bancaria: Anthropic compara el acuerdo con el de los reguladores que destinan inspectores residentes a los grandes bancos. METR es el único evaluador de nivel superior en su sistema de evaluación de tres niveles; las evaluaciones de nivel inferior (como SecureBio) requieren aprobación para publicarse, mientras que el nivel intermedio puede publicar por su cuenta pero con menos información.
Contexto: la medida cumple la promesa del consejero delegado de Anthropic, Dario Amodei, en un artículo de septiembre de incorporar evaluadores externos a los laboratorios de IA. OpenAI se comprometió después a hacer lo mismo, y ambas empresas, junto con Google, Meta, Nvidia y xAI, han firmado el acuerdo de revisión independiente de la Casa Blanca. Con la divulgación frecuente de casos recientes de agentes de IA que actúan sin autorización, crece el clamor por una verificación externa independiente.
Enlace original: ver el original. El texto es un resumen y se ofrece solo como referencia.
