Solucionando Problemas com as Base URLs da OpenAI

Trocar de modelos deveria ser fácil. Você altera o endpoint e mantém o SDK.

Em projetos reais, a primeira execução frequentemente falha. Você vê erros como 401, 404 ou 429.

Use este checklist antes de culpar o SDK.

  • Verifique o prefixo /v1 A maioria dos gateways precisa do sufixo /v1 na URL. Se você usar apenas o domínio, o SDK pode chamar o caminho errado. Copie o formato exato da documentação do provedor.

  • Verifique suas chaves de API Misturar chaves causa falhas. Verifique estes erros comuns: • Usar uma chave da OpenAI com uma URL de relay. • Usar uma chave de relay com uma URL da OpenAI. • Usar uma chave de um projeto desativado. • Incluir um espaço no início ou no fim da chave. Se você vir um erro 401, imprima o primeiro e o último caractere da sua chave para compará-la com o seu dashboard. Não registre a chave completa.

  • Corresponda aos nomes dos modelos exatamente Não tente adivinhar os nomes dos modelos. Os nomes dos gateways mudam. Um nome errado leva a erros 404 ou model_not_found. Copie o ID do modelo diretamente da lista de modelos atual.

  • Execute uma pequena requisição primeiro Antes de depurar todo o seu app, execute um pequeno teste. Use uma mensagem simples de "ping" e um max_tokens baixo. Se isso funcionar, sua URL, chave e modelo estão corretos. O seu bug está na lógica do seu app, como em streaming ou tool calling.

  • Entenda os códigos de erro • 401 significa um problema de chave ou de conta. • 429 significa um problema de rate limit ou de saldo. Se você vir 429, verifique sua página de faturamento. Evite loops de retry muito curtos. Eles pioram o problema.

  • Verifique a página de status Se o seu código funcionava ontem, mas falha hoje, não reescreva sua integração. Verifique primeiro a página de status do provedor. Um incidente upstream é frequentemente a causa.

  • Use um comando curl Mantenha um comando curl simples na documentação do seu projeto.

Quando seu app quebrar, execute o comando curl primeiro. Se o curl falhar, o problema é a conta, o gateway ou a rede. Se o curl funcionar, o problema é o código do seu app.

Fonte: https://dev.to/alice_kelly_68226d164218e/openai-compatible-base-url-troubleshooting-7-checks-before-you-blame-the-sdk-4gce