- Inference Cloud
- Open Models
Fireworks AI meldet US$1 Mrd. ARR mit Fokus auf Open-Model-Inference
Fireworks AI verarbeitet über 40 Billionen Tokens pro Tag und hat laut Bericht US$1 Mrd. annualisierte Umsätze erreicht. 95% des Volumens kommt von kundenspezifisch angep
Fireworks AI baut eine „Inference Cloud“, in der Unternehmen offene KI-Modelle auswählen, mit eigenen Daten spezialisieren und dann in Produktion betreiben. Laut Bericht verarbeitet die Plattform inzwischen mehr als 40 Billionen Tokens pro Tag; 95% davon entfallen auf Modelle, die Kunden selbst auf ihre Daten angepasst haben. Das Unternehmen wurde im Juli 2026 mit US$17,5 Mrd. bewertet und hat diesen Sommer die Schwelle von US$1 Mrd. annualisiertem Umsatz überschritten, etwa fünfmal so viel wie ein Jahr zuvor. Fireworks nennt unter anderem Uber, Shopify, Geico, Revolut und Notion als Kunden. Notion habe die Latenz für KI-Funktionen von rund zwei Sekunden auf 350 Millisekunden gesenkt, Quora meldete nach einer Migration eine Verdreifachung der Geschwindigkeit. In der Series-D-Finanzierung im Juli 2026 flossen US$1,505 Mrd.; das Kapital soll unter anderem in mehr globale Compute-Kapazität für Inference und Fine-Tuning sowie in die Zusammenarbeit mit Microsoft und NVIDIA gehen.
Relevanz: Der Bericht zeigt, wie stark sich der Markt Richtung Betrieb und Anpassung offener Modelle entwickelt – nicht nur Richtung Training. Wenn Firmen Modelle auf eigenes Domänenwissen zuschneiden und performant ausliefern, wird „Inference“ zur zentralen Kostentreiber- und Qualitätsstelle (Latenz, Durchsatz, Stabilität). Gleichzeitig deutet die These „Open und Closed koexistieren“ darauf hin, dass hybride Architekturen im Alltag wahrscheinlicher werden: je nach Aufgabe ein offenes Spezialmodell oder ein Frontier-Modell.
Was heißt das für deinen Betrieb?
Prüfe bei KI-Funktionen zuerst, ob ein offenes Modell mit Fine-Tuning auf eure Daten ausreicht – das kann Kosten und Abhängigkeiten reduzieren, ohne Qualität zu verlieren. Plane Inference wie eine Produktionskomponente: Messgrößen wie Latenz, Token-Kosten und Skalierung entscheiden über Nutzererlebnis und Budget. Für „Build vs. Buy“ lohnt ein Pilot: 1–2 Kernprozesse (Support, Dokumente, Angebotserstellung) als Vergleich zwischen geschlossenem API-Modell und spezialisiertem Open Model im Hosting.
Quelle: aimagazine.com