La API Decisions de OpenAI salió de la beta pública el 22 de octubre y ya está disponible para todos. Es una interfaz diseñada para decisiones en tiempo real: GPT-6 Luna reajustado como "modelo de decisión" — dados textos, imágenes o JSON y preguntas predefinidas, devuelve respuestas de tipo probabilidad, opción o puntuación en lugar de texto largo.
Tres puntos clave:
1. Velocidad: respuestas en milisegundos. La latencia de una llamada de decisión baja de 1–3 segundos a 100–180 ms, unas 10 veces más rápido que hacer la misma tarea con la API Responses de GPT-6 Luna, según OpenAI. Los primeros clientes impresionan: Datadog reportó una reducción de latencia de 40x, Box una aceleración de 5x, y la app de aprendizaje de idiomas Speak redujo el intervalo entre acciones de 1,4 segundos a 0,13. El responsable de producto Nikunj Handa dice que el próximo objetivo son 60 ms — "suficiente para una llamada API en cada fotograma de un video".
2. Barato: solo se paga la entrada. Entrada a $0,10 por millón de tokens, entrada en caché a $0,01 por millón, y los tokens de salida son gratis. Para tareas frecuentes y de bajo valor — clasificación, enrutamiento de solicitudes, priorización de tareas — los desarrolladores pueden sustituir llamadas completas a LLM y ahorrar dinero y latencia.
3. El rival: Jev de TypeSafe. La categoría de "modelos de decisión" la creó TypeSafe — fundada por un exinvestigador de OpenAI — cuyo Jev se convirtió en una empresa de $7.600 millones en semanas. En benchmarks públicos, Jev ocupa el tercer puesto mientras el modelo de decisión de OpenAI está en el octavo/décimocuarto: la clásica batalla de distribución contra calidad, con OpenAI compitiendo por su poder de distribución.
La versión GA añade integración nativa con el sistema de voz GPT-Live, caché de prompts, entrada JSON nativa, imágenes por pregunta, hasta 400 preguntas por solicitud e inferencia geodirigida en EE. UU. y la UE.
Fuente: leer el original. Resumen elaborado solo como referencia.
Comentarios