OpenAI-kompatible API: Was es bedeutet und wo es bricht

ProduktivbetriebProtokolle und IntegrationVeröffentlicht Aktualisiert Von Simon Budziak

Eine OpenAI-kompatible API ist ein Endpunkt, der dasselbe Anfrageformat akzeptiert wie die API von OpenAI. Bestehende OpenAI-Clients können oft einen anderen Anbieter aufrufen, indem sie nur Base-URL, API-Key und Modellnamen ändern. Kompatibilität betrifft die Form von Anfragen und Antworten, nicht die Parameter, Modelle, Limits oder das Verhalten dahinter.

Die Referenzform ist die REST-API von OpenAI: ein POST an https://api.openai.com/v1/chat/completions mit einem Authorization: Bearer-Header (OpenAI-API-Referenz, abgerufen am 19. November 2026). Kompatibilitätsschichten wie die von Anthropic und OVHcloud setzen dieses Chat-Completions-Format um. OpenAI selbst unterstützt Chat Completions weiter, empfiehlt aber für alle neuen Projekte die neuere Responses API (Migrationsleitfaden, abgerufen am 19. November 2026), prüfen Sie also, welche der beiden ein Anbieter meint.

Was deckt OpenAI-Kompatibilität ab?

Sie deckt Endpunktpfade, Bearer-Authentifizierung, das Messages-Array, Modellnamen als einfache Strings und die Antwortfelder ab, die ein SDK liest. Das genügt, um einen bestehenden Client ohne neuen Adapter-Code auf einen anderen Inferenzanbieter zu richten. Streaming-Events, Tool Calling, strukturierte Ausgabe, multimodale Eingaben und Fehlerinhalte sind die Stellen, an denen Implementierungen auseinanderdriften.

API-Kompatibilität ist keine Modellkompatibilität.

Wo bricht OpenAI-Kompatibilität?

Anthropic dokumentiert seine eigene Schicht im Detail. Sie ignoriert das Flag strict bei Tools, sodass das JSON eines Tool-Aufrufs Ihrem Schema nicht garantiert folgt, akzeptiert für response_format nur json_schema mit strict: true und gibt für json_object oder text einen 400 zurück und führt alle System-Nachrichten zu einer einzigen am Anfang der Unterhaltung zusammen (OpenAI-SDK-Kompatibilität, abgerufen am 19. November 2026). Sie sagt, die meisten nicht unterstützten Felder würden stillschweigend ignoriert, statt Fehler zu liefern, und verortet die Schicht als „in erster Linie gedacht, um Modellfähigkeiten zu testen und zu vergleichen“. Ein stillschweigend ignoriertes Feld ist schwerer zu entdecken als ein 400-Fehler, weil nichts scheitert. Kompatibilität läuft auch in die andere Richtung: Die Codex CLI von OpenAI akzeptiert eigene Modellanbieter, aber responses ist der einzige unterstützte Wert für wire_api (Codex-Konfigurationsreferenz, abgerufen am 19. November 2026), ein Anbieter, der nur Chat Completions spricht, kann sie also nicht bedienen.

Wie nutzen wir bei Soba Labs eine OpenAI-kompatible API?

Der LLM-Judge, der unsere Pull Requests prüft, ruft den Chat-Completions-Endpunkt von OVHcloud AI Endpoints mit einfachem HTTP aus der Standardbibliothek von Python auf. Es gibt kein SDK: ein POST mit Bearer-Token und JSON-Body, und das Modell ist ein einzelner Konfigurationswert. Weil jedes Modell an diesem Endpunkt dieselbe Anfrage annimmt, war die Wahl unter ihnen eine Bewertungsfrage, keine Integrationsarbeit. Die Scores hinter unserer Wahl, geprüft am 23. September 2026: Qwen3.8-27B mit 34 im Artificial Analysis Index v4.3.2, gegenüber 18 für Qwen3.5-397B-A17B und 12 für gpt-oss-120b.

Das gemeinsame Format ließ dennoch Lücken, behandelt auf der Seite zum Inferenzanbieter: ein abgelehnter vLLM-Parameter und Reasoning, das in einem getrennten Feld zurückkommt. Deshalb liest der Parser eine leere Antwort nie als Urteil: Er löst einen Fehler aus, der den Finish-Grund und die Token-Nutzung festhält, und entfernt jeden Inline-Think-Block, bevor er das JSON liest. Die Anfrage benennt außerdem ihren Reasoning Effort, statt dem Standard des Anbieters zu vertrauen.

Wie sollten Teams einen OpenAI-kompatiblen Anbieter testen?

Behandeln Sie Kompatibilität als Transportkomfort und testen Sie jeden Anbieter per Vertragstest auf die Funktionen, auf die Sie sich stützen: einfache Ausgabe, Streaming, Tools, strukturierte Ausgabe, Limits und Fehlerinhalte. Prüfen Sie die Wirkung jedes gesendeten Parameters, nicht nur eine 200-Antwort. Halten Sie anbieterspezifische Ausnahmen in einem Adapter oder einem LLM-Gateway, das die Modellportabilität ehrlich hält, und protokollieren Sie Anbieter und Modell jedes Aufrufs in der LLM-Observability, damit ein Fehler zur Route zurückführt, die ihn bedient hat.

Mit AI-Unterstützung geschrieben und von Simon Budziak geprüft. Die Hinweise aus der Praxis stammen aus Systemen, die Soba Labs baut und betreibt.

Häufig gestellte Fragen

Was ist eine OpenAI-kompatible API?

Es ist eine API eines anderen Anbieters oder Servers, die Anfragen im Format von OpenAI akzeptiert, sodass Code für OpenAI mit neuer Base-URL, neuem Key und neuem Modellnamen ein anderes Modell aufrufen kann.

Heißt OpenAI-kompatibel identisch mit OpenAI?

Nein. Das Anfrageformat stimmt überein, während Modelle, unterstützte Felder, Tool-Verhalten, Limits, Fehler und Ausgaben abweichen, und manche Anbieter ignorieren Felder, die sie nicht unterstützen, stillschweigend.

Warum bieten Anbieter OpenAI-kompatible APIs an?

Sie senken den Integrationsaufwand, weil Entwickler die OpenAI-SDKs, Werkzeuge und den Anfragecode wiederverwenden können, den sie schon haben.

Diese Seite zusammenfassen mit

Ihr Team schulen, damit es das selbst baut