Усунення несправностей із Base URL

Зміна моделей має бути простою. Ви змінюєте endpoint і продовжуєте використовувати той самий SDK. Часто це призводить до помилок на кшталт 401, 404 або 429.

Перш ніж звинувачувати SDK, виконайте ці 7 перевірок.

  1. Перевірте префікс /v1 Більшості шлюзів (gateways) потрібен суфікс /v1 у базовому URL. Якщо ви використовуєте лише домен, SDK може звернутися за неправильним шляхом. Завжди копіюйте точний формат із документації провайдера.

  2. Перевірте свої API-ключі Змішування ключів є причиною більшості збоїв. Зверніть увагу на таке:

  • Використання ключа OpenAI з relay URL.
  • Використання relay-ключа з URL OpenAI.
  • Використання ключів із вимкнених проєктів.
  • Наявність зайвих пробілів у ключі.

Якщо ви бачите помилку 401, виведіть лише перші та останні кілька символів вашого ключа, щоб порівняти його з даними в панелі керування (dashboard). Ніколи не логуйте повний ключ.

  1. Використовуйте точні назви моделей Не намагайтеся вгадати назви моделей. Назви шлюзів змінюються залежно від доступності. Копіюйте ID моделі точно зі списку провайдера. Неправильна назва призводить до помилок 404 або model_not_found.

  2. Виконайте крихітний тестовий запит Перевірте з'єднання за допомогою одного невеликого запиту, перш ніж налагоджувати весь додаток. Якщо простий "ping" працює, то ваш URL, ключ і модель правильні. Проблема полягає в логіці вашого додатка, наприклад, у стрімінгу (streaming) або виклику інструментів (tool calling).

  3. Розумійте коди помилок

  • 401 означає, що ваш ключ або стан облікового запису неправильні.
  • 429 означає, що ви перевищили ліміт запитів (rate limit) або у вас закінчився баланс. Якщо ви бачите 429, перевірте сторінку оплати (billing page). Уникайте частих циклів повторних спроб (retry loops), оскільки вони лише погіршують ситуацію з лімітами.

  1. Перевірте сторінку статусу Якщо ваш код працював учора, але не працює сьогодні, не переписуйте свою інтеграцію. Перевірте сторінку статусу провайдера. Збої на стороні постачальника (upstream incidents) є поширеним явищем для relay-сервісів.

  2. Використовуйте команду curl Тримайте мінімальну команду curl у документації вашого проєкту. Запускайте її, коли додаток перестає працювати.

  • Якщо curl не працює: налагоджуйте свій обліковий запис, шлюз або мережу.
  • Якщо curl працює: налагоджуйте код свого додатка.

Чітке дотримання основ робить зміну моделей простою.

Source: https://dev.to/alice_kelly_68226d164218e/openai-compatible-base-url-troubleshooting-7-checks-before-you-blame-the-sdk-53ge

Optional learning community: https://t.me/GyaanSetuAi