El 13 de octubre, la Comisión de Empresas, Innovación, Ciencia y Comercio del Parlamento británico celebró una audiencia sobre seguridad de la IA. Representantes de OpenAI y Anthropic pidieron públicamente, algo poco habitual, que se regulen los modelos de frontera mediante leyes vinculantes, al considerar que los compromisos voluntarios del sector ya no bastan para garantizar la seguridad de la IA.
Los puntos principales son los siguientes:
- Apoyo a un marco legal: El responsable de Anthropic para Europa afirmó sin rodeos que «las normas deben ser vinculantes» y que los compromisos voluntarios se quedan muy cortos; un vicepresidente de OpenAI también respaldó un marco legal y un convenio internacional, con la notificación obligatoria de incidentes como primer elemento.
- Compromiso de un «freno de emergencia»: Las dos empresas se comprometieron a que, si el MI5, el MI6, el GCHQ o el Instituto de Seguridad de la IA presentan pruebas de que un modelo es inseguro o se está utilizando con fines maliciosos, lo retirarán de inmediato, suspenderán su despliegue o pausarán su entrenamiento.
- Los cuatro grandes laboratorios, divididos 2 a 2: Google DeepMind y Meta se negaron a respaldar una nueva legislación y solo quieren mantener los estándares y reguladores actuales, lo que muestra que el sector está ya públicamente dividido entre la autorregulación y la legislación.
Las pruebas actuales del Instituto de Seguridad de la IA del Reino Unido dependen por completo de la colaboración voluntaria de las empresas, y el instituto no tiene potestad para impedir el lanzamiento de un modelo considerado inseguro. La audiencia podría impulsar al Reino Unido a ser el primero en incorporar a la ley las pruebas independientes previas al lanzamiento y la notificación de incidentes, y a promover principios compartidos a escala global mediante su presidencia del G20.
Fuente: ver el original. Este texto es un resumen y se ofrece solo como referencia.
