OpenAI Base URLs ને ટ્રબલશૂટ કરવું

મોડલ્સ બદલવા સરળ હોવા જોઈએ. તમે એન્ડપોઇન્ટ (endpoint) બદલો છો અને SDK ને એ જ રાખો છો.

વાસ્તવિક પ્રોજેક્ટ્સમાં, પ્રથમ પ્રયાસમાં ઘણીવાર નિષ્ફળતા મળે છે. તમને 401, 404, અથવા 429 જેવા એરર (errors) જોવા મળે છે.

SDK ને દોષ આપતા પહેલા આ ચેકલિસ્ટનો ઉપયોગ કરો.

  • /v1 પ્રીફિક્સ (prefix) તપાસો મોટાભાગના ગેટવેઝ (gateways) ને URL માં /v1 સફિક્સ (suffix) ની જરૂર હોય છે. જો તમે ફક્ત ડોમેનનો ઉપયોગ કરો છો, તો SDK ખોટા પાથ (path) ને કોલ કરી શકે છે. પ્રોવાઇડરના ડોક્યુમેન્ટ્સમાંથી ચોક્કસ ફોર્મેટ કોપી કરો.

  • તમારી API કી (keys) ચકાસો કી મિક્સ થવાથી નિષ્ફળતા મળે છે. આ સામાન્ય ભૂલો તપાસો: • રિલે URL (relay URL) સાથે OpenAI કીનો ઉપયોગ કરવો. • OpenAI URL સાથે રિલે કીનો ઉપયોગ કરવો. • નિષ્ક્રિય (disabled) પ્રોજેક્ટની કીનો ઉપયોગ કરવો. • કીની શરૂઆતમાં અથવા અંતમાં સ્પેસ (space) રાખવી. જો તમને 401 એરર દેખાય, તો તમારા ડેશબોર્ડ સાથે સરખાવવા માટે તમારી કીના પ્રથમ અને છેલ્લા અક્ષરો પ્રિન્ટ કરો. આખી કી લોગ (log) કરશો નહીં.

  • મોડલના નામ બરાબર મેચ કરો મોડલના નામનો અંદાજ ન લગાવો. ગેટવેના નામ બદલાતા રહે છે. ખોટું નામ 404 અથવા model_not_found એરર તરફ દોરી જાય છે. વર્તમાન મોડલ લિસ્ટમાંથી સીધું જ મોડલ ID કોપી કરો.

  • પહેલા એક નાની રિક્વેસ્ટ (request) રન કરો તમારા આખા એપને ડિબગ (debug) કરતા પહેલા, એક નાનો ટેસ્ટ કરો. એક સાદો "ping" મેસેજ અને ઓછી max_tokens નો ઉપયોગ કરો. જો આ કામ કરે છે, તો તમારું URL, કી અને મોડલ બરાબર છે. તમારી ભૂલ (bug) તમારી એપ લોજિકમાં છે, જેમ કે સ્ટ્રીમિંગ (streaming) અથવા ટૂલ કોલિંગ (tool calling).

  • એરર કોડ્સ (error codes) સમજો • 401 એટલે કી અથવા એકાઉન્ટની સમસ્યા. • 429 એટલે રેટ લિમિટ (rate limit) અથવા બેલેન્સની સમસ્યા. જો તમને 429 દેખાય, તો તમારું બિલિંગ પેજ તપાસો. ટાઈટ રિટ્રાય લૂપ્સ (tight retry loops) ટાળો. તે સમસ્યાને વધુ વણસાવે છે.

  • સ્ટેટસ પેજ (status page) તપાસો જો તમારો કોડ ગઈકાલે કામ કરતો હતો પરંતુ આજે નિષ્ફળ જાય છે, તો તમારા ઇન્ટિગ્રેશનને ફરીથી લખશો નહીં. પહેલા પ્રોવાઇડરનું સ્ટેટસ પેજ તપાસો. ઘણીવાર અપસ્ટ્રીમ ઇન્સિડન્ટ (upstream incident) તેનું કારણ હોય છે.

  • curl કમાન્ડનો ઉપયોગ કરો તમારા પ્રોજેક્ટ ડોક્યુમેન્ટ્સમાં એક સાદો curl કમાન્ડ રાખો.

જ્યારે તમારી એપ બગડે, ત્યારે પહેલા curl કમાન્ડ રન કરો. જો curl નિષ્ફળ જાય, તો સમસ્યા એકાઉન્ટ, ગેટવે અથવા નેટવર્કની છે. જો curl કામ કરે છે, તો સમસ્યા તમારા એપ કોડમાં છે.

સ્ત્રોત: https://dev.to/alice_kelly_68226d164218e/openai-compatible-base-url-troubleshooting-7-checks-before-you-blame-the-sdk-4gce