OpenAI Base URL のトラブルシューティング

モデルの切り替えは簡単であるはずです。エンドポイントを変更し、SDKはそのまま使い続ければよいのです。

しかし、実際のプロジェクトでは、初回実行時に失敗することがよくあります。401、404、429といったエラーが発生します。

SDKのせいにすると決める前に、このチェックリストを活用してください。

  • Check the /v1 prefix ほとんどのゲートウェイでは、URLに /v1 サフィックスが必要です。ドメインのみを使用すると、SDKが誤ったパスを呼び出す可能性があります。プロバイダーのドキュメントから正確な形式をコピーしてください。

  • Verify your API keys キーの混同は失敗の原因となります。以下のよくある間違いを確認してください: • リレーURLに対してOpenAIのキーを使用している。 • OpenAIのURLに対してリレー用のキーを使用している。 • 無効化されたプロジェクトのキーを使用している。 • キーの先頭または末尾にスペースが含まれている。 401エラーが発生した場合は、キーの最初と最後の文字を表示して、ダッシュボードのものと比較してください。キー全体をログに出力しないでください。

  • Match model names exactly モデル名を推測しないでください。ゲートウェイの名前は変わることがあります。名前が間違っていると、404エラーや model_not_found エラーが発生します。現在のモデルリストからモデルIDを直接コピーしてください。

  • Run a tiny request first アプリ全体をデバッグする前に、小さなテストを実行してください。シンプルな「ping」メッセージと低い max_tokens を使用します。これが成功すれば、URL、キー、モデルは問題ありません。バグは、ストリーミングやツール呼び出し(tool calling)などのアプリのロジック内にあります。

  • Understand error codes • 401は、キーまたはアカウントの問題を意味します。 • 429は、レート制限または残高の問題を意味します。 429が表示された場合は、請求ページを確認してください。過度なリトライループは避けてください。問題を悪化させる可能性があります。

  • Check the status page 昨日まで動いていたコードが今日失敗する場合、統合コードを書き直さないでください。まずプロバイダーのステータスページを確認してください。アップストリームの障害が原因であることが多いです。

  • Use a curl command プロジェクトのドキュメントにシンプルなcurlコマンドを控えておきましょう。

アプリが壊れたときは、まずcurlコマンドを実行してください。 curlが失敗する場合、問題はアカウント、ゲートウェイ、またはネットワークにあります。 curlが成功する場合、問題はアプリのコードにあります。

Source: https://dev.to/alice_kelly_68226d164218e/openai-compatible-base-url-troubleshooting-7-checks-before-you-blame-the-sdk-4gce