𝗘𝘃𝗲𝗿 𝗕𝗲𝗲𝗻 𝗕𝘂𝗿𝗻𝗲𝗱 𝗯𝘆 𝗮𝗻 𝗔𝗜 𝗔𝘀𝘀𝗶𝘀𝘁𝗮𝗻𝘁? क्या आप कभी किसी AI असिस्टेंट द्वारा ठगे गए हैं?
AI कहता है कि काम हो गया है। आप उस पर भरोसा करते हैं। फिर आप यह पता लगाने में दिन बिता देते हैं कि उसने काम कभी पूरा ही नहीं किया।
मैं इसे 'गैप' (gap) कहता हूँ। यह उस चीज़ के बीच का अंतर है जो एक AI रिपोर्ट करता है और जो वास्तव में हुआ है।
वह खामी उसी गैप में छिपी होती है। कभी इसके लिए AI ज़िम्मेदार होता है। कभी मैं ज़िम्मेदार होता हूँ। और कभी इंजीनियरिंग ज़िम्मेदार होती है।
यहाँ तीन वास्तविक उदाहरण दिए गए हैं:
- The Provenance Trap (प्रोवेनेंस ट्रैप) मैंने एक AI से एक git branch से कोड रिकवर करने के लिए कहा। उसने कहा कि उसने इसे दूसरी branch से निकाला है। ऐसा नहीं था। उसने वास्तव में कोड को हाथ से फिर से लिखा था।
एक cherry-pick का एक इतिहास होता है जिसका आप अनुसरण कर सकते हैं। एक मैन्युअल रीराइट (manual rewrite) एक अनाथ की तरह होता है। यह सही दिखता है, लेकिन इसका कोई वंश (lineage) नहीं होता। जब मैंने सच्चाई जानने के लिए दबाव डाला, तो AI ने इसे स्वीकार कर लिया।
सबक: AI के प्रोवेनेंस दावे अविश्वसनीय होते हैं। यह न पूछें कि उसने क्या किया। यह देखने के लिए git history देखें कि उसने वास्तव में क्या किया।
- The Spot-Check Trap (स्पॉट-चेक ट्रैप) मैंने एक AI से form logic बदलने के लिए कहा। उसने कहा "done।" मैंने front end को डीबग करने में चार दिन बिता दिए।
एक line-by-line diff ने दिखाया कि उसने पाँच में से चार scopes को बदल दिया था। मैंने कोड में बहुत सारा बदलाव देखा और मान लिया कि बाकी सब ठीक है। मेरे दिमाग ने खाली जगहों को खुद ही भर दिया।
बदलाव जितना बड़ा होगा, जाल उतना ही गहरा होगा। बड़े बदलाव आपके आत्मविश्वास को बढ़ा देते हैं जबकि आपका वास्तविक कवरेज कम हो जाता है।
सबक: केवल स्कैन न करें। गिनें। यदि आपके पास पाँच कार्य हैं, तो पाँचों को एक-एक करके सत्यापित करें।
- The Engineering Trap (इंजीनियरिंग ट्रैप) एक AI लूप में फंस गया। मुझे लगा कि वह गहराई से सोच रहा है, इसलिए मैंने इंतज़ार किया। वास्तव में वह सिर्फ मेरा API quota खत्म कर रहा था।
मॉडल tokens उत्पन्न करता है। वह बजट प्रबंधित नहीं करता है। लूप कंट्रोल, timeouts और budget caps इंजीनियरिंग लेयर का हिस्सा होते हैं।
सबक: किसी भी ऑटोमेटेड एजेंट में step limits और budget caps होने चाहिए। मॉडल के खुद को रोकने पर भरोसा न करें।
निष्कर्ष:
AI की बात एक गवाही है, फैसला नहीं।
गवाही वह है जो वह कहता है। फैसला भौतिक प्रमाण (physical evidence) है।
- यदि वह कहता है "fixed," तो diff चेक करें।
- यदि वह कहता है "pulled," तो git log चेक करें।
- यदि वह कहता है "thinking," तो token खर्च चेक करें।
परिपक्वता AI पर भरोसा करना सीखना नहीं है। यह उसकी बात को हमेशा एक गवाही के रूप में मानना सीखना है।
Source: https://dev.to/chenghongm/ever-been-burned-by-your-ai-assistant-hold-on-who-dug-the-hole-1ipl
Optional learning community: https://t.me/GyaanSetuAi