Wzorcem jest REST API OpenAI: POST na https://api.openai.com/v1/chat/completions z nagłówkiem Authorization: Bearer (opis API OpenAI, dostęp 19 listopada 2026). Warstwy zgodności, takie jak te od Anthropic i OVHcloud, implementują ten format Chat Completions. OpenAI utrzymuje Chat Completions, ale dla wszystkich nowych projektów zaleca nowsze API Responses (przewodnik migracji, dostęp 19 listopada 2026), więc sprawdź, które z dwóch ma na myśli dostawca.
Co obejmuje zgodność z OpenAI?
Obejmuje ścieżki endpointów, uwierzytelnianie tokenem bearer, tablicę messages, nazwy modeli jako zwykłe ciągi i pola odpowiedzi, które czyta SDK. To wystarcza, żeby skierować istniejącego klienta do innego dostawcy inferencji bez nowego kodu adaptera. Zdarzenia streamingu, wywoływanie narzędzi, ustrukturyzowane wyniki, wejścia multimodalne i treści błędów to miejsca, w których implementacje się rozjeżdżają.
Zgodność API to nie zgodność modeli.
Gdzie zgodność z OpenAI się łamie?
Anthropic dokumentuje swoją warstwę szczegółowo. Ignoruje flagę strict w narzędziach, więc JSON wywołania narzędzia nie musi trzymać się Twojego schematu, przyjmuje dla response_format tylko json_schema z strict: true i zwraca 400 dla json_object lub text, a wszystkie wiadomości systemowe scala w jedną na początku rozmowy (zgodność z SDK OpenAI, dostęp 19 listopada 2026). Mówi, że większość nieobsługiwanych pól jest po cichu ignorowana zamiast zwracać błędy, i określa tę warstwę jako „przeznaczoną głównie do testowania i porównywania możliwości modeli”. Po cichu zignorowane pole trudniej wyłapać niż błąd 400, bo nic się nie psuje. Zgodność działa też w drugą stronę: Codex CLI od OpenAI przyjmuje własnych dostawców modeli, ale responses to jedyna obsługiwana wartość wire_api (opis konfiguracji Codex, dostęp 19 listopada 2026), więc dostawca mówiący tylko Chat Completions nie może go obsłużyć.
Jak w Soba Labs używamy API zgodnego z OpenAI?
Sędzia LLM, który recenzuje nasze pull requesty, wywołuje endpoint Chat Completions OVHcloud AI Endpoints zwykłym HTTP ze standardowej biblioteki Pythona. Nie ma SDK: jeden POST z tokenem bearer i ciałem JSON, a model to pojedyncza wartość konfiguracji. Ponieważ każdy model na tym endpoincie przyjmuje to samo żądanie, wybór między nimi był kwestią oceny, a nie pracy integracyjnej. Wyniki stojące za naszym wyborem, sprawdzone 23 września 2026: Qwen3.8-27B z 34 w indeksie Artificial Analysis v4.3.2, wobec 18 dla Qwen3.5-397B-A17B i 12 dla gpt-oss-120b.
Wspólny format i tak zostawił luki, opisane na stronie dostawcy inferencji: odrzucony parametr vLLM i rozumowanie zwracane w osobnym polu. Dlatego parser nigdy nie czyta pustej odpowiedzi jako werdyktu: zgłasza błąd z powodem zakończenia i zużyciem tokenów oraz usuwa każdy blok think w treści przed odczytaniem JSON. Żądanie podaje też swój wysiłek rozumowania, zamiast ufać wartości domyślnej dostawcy.
Jak testować dostawcę z API zgodnym z OpenAI?
Traktuj zgodność jako wygodę transportu i testuj kontraktowo każdego dostawcę pod funkcje, na których polegasz: zwykły wynik, streaming, narzędzia, ustrukturyzowany wynik, limity i treści błędów. Sprawdzaj efekt każdego wysyłanego parametru, a nie tylko odpowiedź 200. Trzymaj wyjątki specyficzne dla dostawcy w jednym adapterze lub bramce LLM, co zachowuje uczciwą przenośność modeli, i zapisuj dostawcę oraz model każdego wywołania w observability LLM, żeby awaria dała się prześledzić do trasy, która ją obsłużyła.