Pemecahan Masalah Base URL

Mengganti model seharusnya sederhana. Anda cukup mengubah endpoint dan tetap menggunakan SDK yang sama. Sering kali, hal ini gagal dengan error seperti 401, 404, atau 429.

Sebelum menyalahkan SDK, lakukan 7 pemeriksaan ini.

  1. Periksa prefix /v1 Sebagian besar gateway membutuhkan suffix /v1 pada base URL. Jika Anda hanya menggunakan domain, SDK mungkin memanggil path yang salah. Selalu salin format yang tepat dari dokumentasi penyedia.

  2. Verifikasi API key Anda Mencampuradukkan key adalah penyebab sebagian besar kegagalan. Perhatikan hal-hal berikut:

  • Menggunakan key OpenAI dengan URL relay.
  • Menggunakan key relay dengan URL OpenAI.
  • Menggunakan key dari proyek yang dinonaktifkan.
  • Menyertakan spasi tambahan pada key.

Jika Anda melihat error 401, cetak hanya beberapa karakter pertama dan terakhir dari key Anda untuk membandingkannya dengan dashboard Anda. Jangan pernah mencatat (log) seluruh key.

  1. Gunakan nama model yang tepat Jangan menebak nama model. Nama gateway berubah berdasarkan ketersediaan. Salin ID model secara tepat dari daftar penyedia. Nama yang salah akan menyebabkan error 404 atau model_not_found.

  2. Jalankan permintaan tes kecil Uji koneksi Anda dengan satu permintaan kecil sebelum melakukan debugging pada seluruh aplikasi Anda. Jika "ping" sederhana berhasil, berarti URL, key, dan model Anda sudah benar. Masalahnya terletak pada logika aplikasi Anda, seperti streaming atau tool calling.

  3. Pahami kode error

  • 401 berarti key atau status akun Anda salah.
  • 429 berarti Anda mencapai rate limit atau tidak memiliki saldo. Jika Anda melihat 429, periksa halaman penagihan (billing) Anda. Hindari loop retry yang terlalu rapat, karena hal itu akan memperburuk limit tersebut.

  1. Periksa halaman status Jika kode Anda berfungsi kemarin tetapi gagal hari ini, jangan menulis ulang integrasi Anda. Periksa halaman status penyedia. Insiden upstream adalah hal yang umum terjadi pada layanan relay.

  2. Gunakan perintah curl Simpan perintah curl minimal dalam dokumentasi proyek Anda. Jalankan perintah tersebut saat aplikasi bermasalah.

  • Jika curl gagal: Debug akun, gateway, atau jaringan Anda.
  • Jika curl berhasil: Debug kode aplikasi Anda.

Dasar-dasar yang bersih membuat perpindahan model menjadi mudah.

Sumber: https://dev.to/alice_kelly_68226d164218e/openai-compatible-base-url-troubleshooting-7-checks-before-you-blame-the-sdk-53ge

Komunitas belajar opsional: https://t.me/GyaanSetuAi