OpenAI macht Decisions API allgemein verfügbar
OpenAI bietet seine Decisions API für schnelle Klassifikations-Entscheidungen nun allen Kunden an und tritt gegen TypeSafes Jev an. Latenzen sinken auf rund 100–180 ms.
Worum es geht
OpenAI hat die Decisions API, angekündigt am 29. September, für alle Kunden freigegeben. Sie zielt auf schnelle, günstige "Decision Models", die aus vorgegebenen Optionen wählen und eine Konfidenz liefern, und konkurriert mit dem Jev-Modell des Startups TypeSafe.
Die wichtigsten Fakten
- Technisch ist es laut OpenAI ein umkonfiguriertes ChatGPT Luna mit schnellerer, günstigerer Inferenz, kein speziell trainiertes Modell.
- Latenz: statt 1–3 Sekunden etwa 100–180 ms; Speak senkte die Zeit zwischen Aktionen von 1,4 auf 0,13 s.
- Die öffentliche Version bietet neue Voice- und Bild-Modalitäten und geografisch optimierte Inferenz.
- Frühe Kunden: Box, Datadog, Ramp, Speak.
- Benchmarks: Auf AIM System One Index und Artificial Analysis Decision Index liegt OpenAI auf Platz 8 bzw. 14; Liquids D1 Ultra und Base Labs Elephant-1 führen, Jev liegt auf 7 bzw. 3.
- Jev ist weiterhin am meisten auf OpenRouter nachgefragt.
Einordnung
Decision Models können LLMs in vielen Workflows ersetzen, wo Geschwindigkeit und Kosten zählen. Was ein gutes Modell ausmacht, hängt laut Artikel stark vom Einsatz ab; eigene Tests sind wichtiger als Rankings. OpenAIs Vorteil liegt eher bei multimodalen Aufgaben.