L'API Decisions d'OpenAI est sortie de sa bêta publique le 22 octobre et est désormais disponible pour tous. C'est une interface conçue pour les décisions en temps réel : GPT-6 Luna réajusté en "modèle de décision" — avec des textes, des images ou du JSON en entrée et des questions prédéfinies, il renvoie des réponses de type probabilité, choix ou score au lieu d'un long texte généré.
Trois points clés :
1. Vitesse : des réponses en millisecondes. La latence d'un appel de décision passe de 1–3 secondes à 100–180 ms, soit environ 10 fois plus vite que le même travail via l'API Responses de GPT-6 Luna, selon OpenAI. Les premiers clients sont éloquents : Datadog rapporte une latence réduite de 40x, Box un gain de 5x, et l'application d'apprentissage des langues Speak a réduit l'intervalle entre les actions de 1,4 seconde à 0,13. Le responsable produit Nikunj Handa vise désormais 60 ms — "de quoi faire un appel API pour chaque image d'une vidéo".
2. Bon marché : on ne paie que l'entrée. L'entrée coûte 0,10 $ par million de tokens, 0,01 $ en cache, et les tokens de sortie sont gratuits. Pour les tâches fréquentes à faible valeur — classification, routage des requêtes, priorisation — les développeurs peuvent remplacer des appels LLM complets et économiser coût et latence.
3. Le rival : Jev de TypeSafe. La catégorie des "modèles de décision" a été créée par TypeSafe — fondée par un ancien chercheur d'OpenAI — dont le modèle Jev est devenu une entreprise de 7,6 milliards de dollars en quelques semaines. Sur les benchmarks publics, Jev est troisième tandis que le modèle de décision d'OpenAI est huitième/quatorzième : la classique bataille distribution contre qualité, OpenAI jouant sa force de distribution.
La version GA ajoute l'intégration native du système vocal GPT-Live, la mise en cache des prompts, les entrées JSON natives, des images par question, jusqu'à 400 questions par requête et une inférence géociblée aux États-Unis et dans l'UE.
Source : lire l'original. Résumé fourni à titre indicatif uniquement.
Commentaires