OpenAI-совместимый API: что это и почему это удобно

Что значит «совместимый»

Совместимый API принимает запросы в том же формате, что OpenAI Chat Completions: список сообщений с ролями system, user и assistant, параметры model, temperature, stream. И отвечает в том же формате, включая потоковую передачу частями.

Благодаря этому работают официальные SDK openai, LangChain, n8n, редакторы вроде Cursor и Continue — им достаточно другого адреса и ключа.

Смена провайдера — две строки

from openai import OpenAI

# было: client = OpenAI()
client = OpenAI(base_url="https://tenzo-cloud.com/v1", api_key="tc-your-key")

На что обратить внимание

• Имена моделей у разных провайдеров свои — поменяйте параметр model
• Не все провайдеры поддерживают одни и те же дополнительные параметры
• Формат ошибок: у Tenzo Cloud он такой же, как у OpenAI, — объект error с полями message, type и code
• Проверьте лимиты: у нас ограничены одновременные запросы, а не токены

Почему стандарт победил

Когда у одного API появилось больше всего пользователей, разработчики инструментов стали писать интеграции именно под него. Новым провайдерам проще поддержать уже знакомый формат, чем уговаривать всех переписывать код. В итоге совместимость стала нормой: сменить модель теперь так же просто, как сменить адрес базы данных.

Чек-лист переезда на другой провайдер

1. Вынесите base_url и ключ в переменные окружения
2. Проверьте, какие модели нужны, и поменяйте их id
3. Прогоните основные сценарии и тесты на новой модели
4. Настройте ретраи для ошибки 429 — при ограничении потоков это нормальный ответ
5. Оставьте возможность быстро вернуться на прежнего провайдера