Қателер мен лимиттер
Стандартты HTTP статустар. 429 қатесінде Retry-After хэдері болады.
| Статус | Мағынасы |
|---|---|
| 400 | Қате сұраныс (Bad Request) — формат дұрыс емес, messages массиві жоқ, model көрсетілмеген не мұндай ID-мен модель жоқ, немесе параметр мәніне қолдау көрсетілмейді. |
| 401 | Рұқсат жоқ (Unauthorized) — API кілті жоқ немесе қате. |
| 404 | Табылмады (Not Found) — модель мұндай кірісті қабылдамайды, мысалы мәтіндік модельге сурет жіберілген. |
| 429 | Лимиттен асты — сұраныстарды тым жиі жіберіп жатсыз. Біраз күте тұрыңыз (Retry-After мәнін қараңыз). |
| 500 | Сервер қатесі — бұл біздің кінәміз. Сәлден кейін қайта көріңіз. |
Лимиттер
Екі лимит қолданылады; кез келгені асып кетсе, Retry-After қоса 429 қайтарылады. Минутына сұраныстар аккаунт бойынша, барлық кілттерге ортақ есептеледі. Қатарлас сұраныстар әр API кілті бойынша бөлек есептеледі. Минутына токен шектеуі жоқ. Екі лимитті де сұраныс бойынша аккаунтыңызға көтеруге болады.
- Аккаунтқа минутына 500 сұраныс, барлық кілттерге ортақ
- Әр API кілтіне 20 қатарлас сұраныс
- Минутына токен шектеуі жоқ
Детерминизм
Жауаптар бит-пен-бит қайталанбайды: GPU батчингі мен қалқымалы нүкте есептеулері іске қосу сайын өзгереді, сондықтан бірдей параметрлері бар бірдей сұраныстар әртүрлі жауап қайтаруы мүмкін. Мұны қайталауларда (retry), кэштеуде және тесттерде ескеріңіз.
API үйлесімділігі туралы ескертпелер
- user параметрі қабылданады, бірақ ескерілмейді.
- Completions API-дегі suffix параметрі қолдау таппайды.
- n параметрі 1-ге тең болуы керек. Үлкен мәндер еленбей қалмай, 400 қатесімен қабылданбайды.
- best_of қолдау таппайды және үнсіз еленбейді.