Moonshot AI presentó el 24 de octubre su nuevo modelo Kimi K3.1 Pro, descrito por la empresa como su modelo de pesos abiertos de clase 3 billones de parámetros más potente hasta la fecha, con los pesos previstos para el 4 de noviembre, de modo que los desarrolladores externos puedan ejecutarlo y modificarlo.
Puntos clave:
- Seguridad primero, límites autoimpuestos: a medida que los modelos de IA se vuelven más autónomos, la empresa teme que se utilicen para amplificar ciberataques. Por ello eliminó datos de ciberseguridad ofensiva del corpus de entrenamiento y de los entornos de aprendizaje por refuerzo, conservando solo capacidades generales de programación, y se comprometió a no publicar pesos abiertos que lleven la capacidad cibernética a una nueva frontera.
- La apertura sigue siendo la estrategia: a pesar de la autorrestricción, los pesos se publicarán según lo previsto. La empresa sostiene que la apertura permite a más organizaciones inspeccionar y reforzar su propio software, incluidos sistemas antiguos con poco mantenimiento.
- En línea con la tendencia política: China ya abrió una consulta pública sobre controles de exportación para la tecnología de generación de malware impulsada por IA, para evitar que la IA se dirija contra infraestructuras críticas y sistemas gubernamentales; la seguridad primero se está convirtiendo en parte del consenso global.
Enlace original: Leer el original. El texto es un resumen, solo para referencia.
Comentarios