Base URLలను ట్రబుల్షూట్ చేయడం

మోడల్స్‌ను మార్చడం సులభంగా ఉండాలి. మీరు కేవలం ఎండ్‌పాయింట్‌ను మార్చి, అదే SDKని ఉపయోగించవచ్చు. తరచుగా, ఇది 401, 404, లేదా 429 వంటి ఎర్రర్‌లతో విఫలమవుతుంది.

SDKని నిందించే ముందు, ఈ 7 తనిఖీలు చేయండి.

  1. /v1 ప్రిఫిక్స్‌ను తనిఖీ చేయండి చాలా గేట్‌వేలకు బేస్ URLలో /v1 సఫిక్స్ అవసరం. మీరు కేవలం డొమైన్‌ను మాత్రమే ఉపయోగిస్తే, SDK తప్పు పాత్‌ను పిలవవచ్చు. ఎల్లప్పుడూ ప్రొవైడర్ డాక్యుమెంటేషన్ నుండి ఖచ్చితమైన ఫార్మాట్‌ను కాపీ చేయండి.

  2. మీ API కీలను ధృవీకరించండి కీలను తప్పుగా కలపడం వల్ల చాలాసార్లు విఫలమవుతుంది. వీటి పట్ల జాగ్రత్తగా ఉండండి:

  • రిలే URLతో OpenAI కీని ఉపయోగించడం.
  • OpenAI URLతో రిలే కీని ఉపయోగించడం.
  • నిలిపివేసిన (disabled) ప్రాజెక్ట్‌ల నుండి కీలను ఉపయోగించడం.
  • కీలో అదనపు స్పేస్‌లను చేర్చడం.

మీకు 401 ఎర్రర్ కనిపిస్తే, మీ డ్యాష్‌బోర్డ్‌తో పోల్చడానికి మీ కీలోని మొదటి మరియు చివరి కొన్ని అక్షరాలను మాత్రమే ప్రింట్ చేయండి. ఎప్పుడూ పూర్తి కీని లాగ్ చేయవద్దు.

  1. ఖచ్చితమైన మోడల్ పేర్లను ఉపయోగించండి మోడల్ పేర్లను ఊహించవద్దు. లభ్యతను బట్టి గేట్‌వే పేర్లు మారుతుంటాయి. ప్రొవైడర్ జాబితా నుండి మోడల్ IDని ఖచ్చితంగా కాపీ చేయండి. తప్పు పేరు వల్ల 404 లేదా model_not_found ఎర్రర్‌లు వస్తాయి.

  2. ఒక చిన్న టెస్ట్ రిక్వెస్ట్‌ను రన్ చేయండి మీ మొత్తం యాప్‌ను డీబగ్ చేసే ముందు, ఒకే ఒక చిన్న రిక్వెస్ట్‌తో మీ కనెక్షన్‌ను పరీక్షించండి. ఒక సాధారణ "ping" పనిచేస్తే, మీ URL, కీ మరియు మోడల్ సరిగ్గా ఉన్నాయని అర్థం. సమస్య మీ యాప్ లాజిక్‌లో (ఉదాహరణకు streaming లేదా tool calling వంటివి) ఉండవచ్చు.

  3. ఎర్రర్ కోడ్‌లను అర్థం చేసుకోండి

  • 401 అంటే మీ కీ లేదా అకౌంట్ స్థితి తప్పుగా ఉంది.
  • 429 అంటే మీరు రేట్ లిమిట్‌ను చేరుకున్నారు లేదా బ్యాలెన్స్ లేదు. మీకు 429 కనిపిస్తే, మీ బిల్లింగ్ పేజీని తనిఖీ చేయండి. రిట్రై లూప్‌లను (retry loops) పదేపదే చేయవద్దు, ఎందుకంటే అవి లిమిట్‌ను మరింత పెంచుతాయి.

  1. స్టేటస్ పేజీని తనిఖీ చేయండి మీ కోడ్ నిన్న పనిచేసి, ఈరోజు విఫలమైతే, మీ ఇంటిగ్రేషన్‌ను మళ్ళీ రాయకండి. ప్రొవైడర్ యొక్క స్టేటస్ పేజీని తనిఖీ చేయండి. రిలే సర్వీసులలో అప్‌స్ట్రీమ్ ఇన్సిడెంట్లు (upstream incidents) సాధారణం.

  2. curl కమాండ్‌ను ఉపయోగించండి మీ ప్రాజెక్ట్ డాక్యుమెంటేషన్‌లో ఒక చిన్న curl కమాండ్‌ను ఉంచుకోండి. యాప్ విఫలమైనప్పుడు దానిని రన్ చేయండి.

  • curl విఫలమైతే: మీ అకౌంట్, గేట్‌వే లేదా నెట్‌వర్క్‌ను డీబగ్ చేయండి.
  • curl పనిచేస్తే: మీ అప్లికేషన్ కోడ్‌ను డీబగ్ చేయండి.

ప్రాథమిక అంశాలను సరిగ్గా ఉంచుకోవడం వల్ల మోడల్ మార్చడం సులభమవుతుంది.

Source: https://dev.to/alice_kelly_68226d164218e/openai-compatible-base-url-troubleshooting-7-checks-before-you-blame-the-sdk-53ge

Optional learning community: https://t.me/GyaanSetuAi