𝗚𝗶𝘁𝗛𝘂𝗯 𝗖𝗼𝗽𝗶𝗹𝗼𝘁 𝗕𝗶𝗹𝗹𝗶𝗻𝗴 𝗖𝗵𝗮𝗻𝗴𝗲𝘀 𝗖𝗿𝗲𝗮𝘁𝗲 𝗨𝗻𝗰𝗲𝗿𝘁𝗮𝗶𝗻𝘁𝘆

GitHub Copilot తన బిల్లింగ్ మోడల్‌ను మార్చింది. ఇది ఫ్లాట్ రేట్ నుండి వినియోగం ఆధారిత బిల్లింగ్‌కు (usage-based billing) మారింది. ఈ మార్పు డెవలపర్‌లకు మరియు బృందాలకు సమస్యలను కలిగిస్తోంది.

డెవలపర్‌లు తమ నెలవారీ ప్రీమియం క్రెడిట్‌ను ఒకే రోజులో పూర్తిగా వాడేస్తున్నట్లు చెబుతున్నారు. కొన్ని మోడళ్లకు ఇచ్చే ఒకే ఒక ప్రాంప్ట్ నెలవారీ పరిమితిలో 40% వరకు ఖర్చు చేయవచ్చు. దీనివల్ల రోజువారీ పనిని ప్లాన్ చేయడం కష్టమవుతోంది.

ప్రధాన సమస్యలు ఇవే:

  • పారదర్శకత లేకపోవడం: ప్రాంప్ట్ పంపే ముందు వినియోగదారులకు ఖర్చు హెచ్చరికలు కనిపించవు.
  • వివరణాత్మక విభజన లేకపోవడం: నిర్దిష్ట రిక్వెస్ట్‌లకు ఎందుకు అంత ఖర్చవుతుందో వినియోగదారులకు తెలియదు.
  • అంచనా వేయలేని బడ్జెట్‌లు: బృందాలు నెలవారీ ఖర్చులను ముందుగానే అంచనా వేయలేవు.

ఈ అనిశ్చితి కేవలం వ్యక్తిగత డెవలపర్‌లకే కాకుండా మరికొందరినీ ప్రభావితం చేస్తోంది. CTOలు మరియు ప్రొడక్ట్ మేనేజర్లు కొత్త ఆపరేషనల్ రిస్క్‌లను ఎదుర్కొంటున్నారు. టూల్ ఖర్చులు అస్పష్టంగా (black box) ఉన్నప్పుడు, స్ప్రింట్‌లను ప్లాన్ చేయడం లేదా వనరులను కేటాయించడం కష్టమవుతుంది.

కొంతమంది డెవలపర్‌లు Copilot నుండి దూరంగా వెళ్తున్నారు. నియంత్రణను తిరిగి పొందడానికి వారు Ollama ద్వారా లోకల్ మోడళ్లను ఉపయోగిస్తున్నారు. ఇది వారికి అకస్మాత్తుగా వచ్చే ఖర్చుల భయం లేకుండా, ఖర్చులను మరియు మోడల్ ప్రవర్తనను నిర్వహించడానికి అనుమతిస్తుంది.

సాంకేతిక నాయకులు ఈ క్రింది చర్యలను పరిగణనలోకి తీసుకోవాలి:

  • ఖర్చులను అంచనా వేయండి: మీ బృందం అంచనా వేయలేని AI ఖర్చులను నిర్వహించగలదో లేదో నిర్ణయించుకోండి.
  • హైబ్రిడ్ వ్యూహాలు: స్థిరమైన వర్క్‌లోడ్‌ల కోసం క్లౌడ్ సేవలను సెల్ఫ్-హోస్టెడ్ మోడళ్లతో కలపండి.
  • నైతికతను (morale) పర్యవేక్షించండి: నమ్మదగని టూల్స్ మీ ఇంజనీరింగ్ బృందాలను నిరాశపరుస్తున్నాయో లేదో తనిఖీ చేయండి.

పారదర్శకత ముఖ్యం. AI టూల్స్ సాఫ్ట్‌వేర్ డెలివరీకి సహాయపడాలి, బడ్జెట్ సమస్యలను సృష్టించకూడదు.

Source: https://dev.to/devactivity/github-copilots-new-billing-a-blow-to-predictability-and-software-development-efficiency-3869

Optional learning community: https://t.me/GyaanSetuAi