Die Referenzform ist die REST-API von OpenAI: ein POST an https://api.openai.com/v1/chat/completions mit einem Authorization: Bearer-Header (OpenAI-API-Referenz, abgerufen am 19. November 2026). Kompatibilitätsschichten wie die von Anthropic und OVHcloud setzen dieses Chat-Completions-Format um. OpenAI selbst unterstützt Chat Completions weiter, empfiehlt aber für alle neuen Projekte die neuere Responses API (Migrationsleitfaden, abgerufen am 19. November 2026), prüfen Sie also, welche der beiden ein Anbieter meint.
Was deckt OpenAI-Kompatibilität ab?
Sie deckt Endpunktpfade, Bearer-Authentifizierung, das Messages-Array, Modellnamen als einfache Strings und die Antwortfelder ab, die ein SDK liest. Das genügt, um einen bestehenden Client ohne neuen Adapter-Code auf einen anderen Inferenzanbieter zu richten. Streaming-Events, Tool Calling, strukturierte Ausgabe, multimodale Eingaben und Fehlerinhalte sind die Stellen, an denen Implementierungen auseinanderdriften.
API-Kompatibilität ist keine Modellkompatibilität.
Wo bricht OpenAI-Kompatibilität?
Anthropic dokumentiert seine eigene Schicht im Detail. Sie ignoriert das Flag strict bei Tools, sodass das JSON eines Tool-Aufrufs Ihrem Schema nicht garantiert folgt, akzeptiert für response_format nur json_schema mit strict: true und gibt für json_object oder text einen 400 zurück und führt alle System-Nachrichten zu einer einzigen am Anfang der Unterhaltung zusammen (OpenAI-SDK-Kompatibilität, abgerufen am 19. November 2026). Sie sagt, die meisten nicht unterstützten Felder würden stillschweigend ignoriert, statt Fehler zu liefern, und verortet die Schicht als „in erster Linie gedacht, um Modellfähigkeiten zu testen und zu vergleichen“. Ein stillschweigend ignoriertes Feld ist schwerer zu entdecken als ein 400-Fehler, weil nichts scheitert. Kompatibilität läuft auch in die andere Richtung: Die Codex CLI von OpenAI akzeptiert eigene Modellanbieter, aber responses ist der einzige unterstützte Wert für wire_api (Codex-Konfigurationsreferenz, abgerufen am 19. November 2026), ein Anbieter, der nur Chat Completions spricht, kann sie also nicht bedienen.
Wie nutzen wir bei Soba Labs eine OpenAI-kompatible API?
Der LLM-Judge, der unsere Pull Requests prüft, ruft den Chat-Completions-Endpunkt von OVHcloud AI Endpoints mit einfachem HTTP aus der Standardbibliothek von Python auf. Es gibt kein SDK: ein POST mit Bearer-Token und JSON-Body, und das Modell ist ein einzelner Konfigurationswert. Weil jedes Modell an diesem Endpunkt dieselbe Anfrage annimmt, war die Wahl unter ihnen eine Bewertungsfrage, keine Integrationsarbeit. Die Scores hinter unserer Wahl, geprüft am 23. September 2026: Qwen3.8-27B mit 34 im Artificial Analysis Index v4.3.2, gegenüber 18 für Qwen3.5-397B-A17B und 12 für gpt-oss-120b.
Das gemeinsame Format ließ dennoch Lücken, behandelt auf der Seite zum Inferenzanbieter: ein abgelehnter vLLM-Parameter und Reasoning, das in einem getrennten Feld zurückkommt. Deshalb liest der Parser eine leere Antwort nie als Urteil: Er löst einen Fehler aus, der den Finish-Grund und die Token-Nutzung festhält, und entfernt jeden Inline-Think-Block, bevor er das JSON liest. Die Anfrage benennt außerdem ihren Reasoning Effort, statt dem Standard des Anbieters zu vertrauen.
Wie sollten Teams einen OpenAI-kompatiblen Anbieter testen?
Behandeln Sie Kompatibilität als Transportkomfort und testen Sie jeden Anbieter per Vertragstest auf die Funktionen, auf die Sie sich stützen: einfache Ausgabe, Streaming, Tools, strukturierte Ausgabe, Limits und Fehlerinhalte. Prüfen Sie die Wirkung jedes gesendeten Parameters, nicht nur eine 200-Antwort. Halten Sie anbieterspezifische Ausnahmen in einem Adapter oder einem LLM-Gateway, das die Modellportabilität ehrlich hält, und protokollieren Sie Anbieter und Modell jedes Aufrufs in der LLM-Observability, damit ein Fehler zur Route zurückführt, die ihn bedient hat.