𝗧𝗿𝗼𝘂𝗯𝗹𝗲𝘀𝗵𝗼𝗼𝘁𝗶𝗻𝗴 𝗢𝗽𝗲𝗻𝗔𝗜 𝗕𝗮𝘀𝗲 𝗨𝗥𝗟𝘀

मॉडल बदलना आसान होना चाहिए। आप एंडपॉइंट (endpoint) बदलते हैं और SDK को वही रखते हैं।

वास्तविक प्रोजेक्ट्स में, पहली बार रन करने पर अक्सर विफलता मिलती है। आपको 401, 404, या 429 जैसे एरर दिखाई देते हैं।

SDK को दोष देने से पहले इस चेकलिस्ट का उपयोग करें।

  • /v1 प्रीफ़िक्स की जाँच करें अधिकांश गेटवेज़ को URL में /v1 सफ़िक्स की आवश्यकता होती है। यदि आप केवल डोमेन का उपयोग करते हैं, तो SDK गलत पाथ को कॉल कर सकता है। प्रोवाइडर के डॉक्यूमेंटेशन से सटीक फॉर्मेट कॉपी करें।

  • अपनी API keys सत्यापित करें कुंजियों (keys) को मिलाने से विफलताएँ होती हैं। इन सामान्य गलतियों की जाँच करें: • रिले URL के साथ OpenAI key का उपयोग करना। • OpenAI URL के साथ रिले key का उपयोग करना। • किसी अक्षम (disabled) प्रोजेक्ट की key का उपयोग करना। • key की शुरुआत या अंत में स्पेस शामिल करना। यदि आपको 401 एरर दिखाई देता है, तो अपने डैशबोर्ड के साथ तुलना करने के लिए अपनी key के पहले और अंतिम अक्षरों को प्रिंट करें। पूरी key को लॉग न करें।

  • मॉडल के नामों का सटीक मिलान करें मॉडल के नामों का अंदाज़ा न लगाएं। गेटवे के नाम बदलते रहते हैं। गलत नाम से 404 या model_not_found एरर आ सकते हैं। वर्तमान मॉडल सूची से सीधे मॉडल ID कॉपी करें।

  • पहले एक छोटा अनुरोध (request) चलाएं अपने पूरे ऐप को डीबग करने से पहले, एक छोटा टेस्ट चलाएं। एक साधारण "ping" संदेश और कम max_tokens का उपयोग करें। यदि यह काम करता है, तो आपका URL, key और मॉडल ठीक हैं। आपकी समस्या (bug) आपके ऐप लॉजिक में है, जैसे कि स्ट्रीमिंग या टूल कॉलिंग।

  • एरर कोड्स को समझें • 401 का अर्थ है key या अकाउंट संबंधी समस्या। • 429 का अर्थ है रेट लिमिट या बैलेंस संबंधी समस्या। यदि आप 429 देखते हैं, तो अपना बिलिंग पेज चेक करें। बार-बार होने वाले रीट्राई लूप्स (retry loops) से बचें। वे समस्या को और खराब कर देते हैं।

  • स्टेटस पेज चेक करें यदि आपका कोड कल काम कर रहा था लेकिन आज विफल हो रहा है, तो अपने इंटीग्रेशन को फिर से न लिखें। पहले प्रोवाइडर का स्टेटस पेज चेक करें। अक्सर इसका कारण अपस्ट्रीम इंसिडेंट (upstream incident) होता है।

  • curl कमांड का उपयोग करें अपने प्रोजेक्ट डॉक्यूमेंटेशन में एक साधारण curl कमांड रखें।

जब आपका ऐप काम करना बंद कर दे, तो पहले curl कमांड चलाएं। यदि curl विफल होता है, तो समस्या अकाउंट, गेटवे या नेटवर्क में है। यदि curl काम करता है, तो समस्या आपके ऐप कोड में है।

स्रोत: https://dev.to/alice_kelly_68226d164218e/openai-compatible-base-url-troubleshooting-7-checks-before-you-blame-the-sdk-4gce