Ошибки и лимиты
Стандартные коды HTTP; 429 содержит Retry-After.
| Статус | Значение |
|---|---|
| 400 | Неверный запрос — некорректное тело, отсутствующий массив messages, отсутствующий или неизвестный id модели либо неподдерживаемое значение параметра. |
| 401 | Не авторизовано — отсутствует или неверный ключ API. |
| 404 | Не найдено — модель не принимает такой ввод, например изображение, отправленное текстовой модели. |
| 429 | Превышен лимит — снизьте частоту; учитывайте Retry-After. |
| 500 | Ошибка сервера — повторите с задержкой. |
Лимиты запросов
Действуют два лимита; при превышении любого возвращается 429 с Retry-After. Запросы в минуту считаются на аккаунт, по всем ключам вместе. Одновременные запросы считаются на каждый ключ API. Лимита на токены в минуту нет. Оба лимита можно повысить для вашего аккаунта по запросу.
- 500 запросов в минуту на аккаунт, общие для всех ключей
- 20 одновременных запросов на каждый ключ API
- Без лимита на токены в минуту
Детерминизм
Ответы не воспроизводятся бит-в-бит: батчинг на GPU и вычисления с плавающей точкой меняются от запуска к запуску, поэтому одинаковые запросы могут возвращать разные ответы даже при одинаковых параметрах. Учитывайте это в ретраях, кэшировании и тестах.
Замечания по совместимости API
- Параметр user принимается, но игнорируется.
- Параметр suffix в Completions API не поддерживается.
- Параметр n должен быть равен 1. Большие значения отклоняются с ошибкой 400, а не игнорируются.
- best_of не поддерживается и молча игнорируется.