A API Decisions da OpenAI saiu da beta pública em 22 de outubro e agora está disponível para todos. É uma interface feita para decisões em tempo real: o GPT-6 Luna reajustado como "modelo de decisão" — dados textos, imagens ou JSON e perguntas predefinidas, ele devolve respostas de tipo probabilidade, opção ou pontuação em vez de texto longo.
Três pontos-chave:
1. Velocidade: respostas em milissegundos. A latência de uma chamada de decisão cai de 1–3 segundos para 100–180 ms, cerca de 10x mais rápida que fazer o mesmo trabalho pela API Responses do GPT-6 Luna, segundo a OpenAI. Os primeiros clientes impressionam: a Datadog relatou redução de latência de 40x, a Box ganho de 5x, e o app de idiomas Speak reduziu o intervalo entre ações de 1,4 segundo para 0,13. O líder de produto Nikunj Handa diz que a próxima meta é 60 ms — "suficiente para uma chamada de API em cada quadro de um vídeo".
2. Barato: paga-se só a entrada. Entrada a US$ 0,10 por milhão de tokens, entrada em cache a US$ 0,01 por milhão, e tokens de saída grátis. Para tarefas frequentes de baixo valor — classificação, roteamento de solicitações, priorização — desenvolvedores podem trocar chamadas completas de LLM e economizar dinheiro e latência.
3. O rival: Jev da TypeSafe. A categoria de "modelos de decisão" foi criada pela TypeSafe — fundada por um ex-pesquisador da OpenAI — cujo Jev virou uma empresa de US$ 7,6 bilhões em semanas. Em benchmarks públicos, o Jev é terceiro enquanto o modelo de decisão da OpenAI é oitavo/décimo quarto: a clássica batalha de distribuição contra qualidade, com a OpenAI apostando em sua força de distribuição.
A versão GA adiciona integração nativa com o sistema de voz GPT-Live, cache de prompts, entradas JSON nativas, imagens por pergunta, até 400 perguntas por solicitação e inferência geodirecionada nos EUA e na UE.
Fonte: ler o original. Resumo apenas para referência.
Comentários