𝗧𝗵𝗲 𝗟𝗲𝘃𝗲𝗿 𝗡𝗲𝗲𝗱𝘀 𝗮 𝗛𝗮𝗿𝗻𝗲𝘀𝘀
AI तेज़ है। यह ऐसी गति से कोड लिखता है जिसका कोई इंसान मुकाबला नहीं कर सकता। लेकिन यदि आपके पास नियंत्रण की कमी है, तो यह गति एक जोखिम है।
हाल ही में मुझे एक जटिल ट्रेडिंग सिस्टम को फिर से बनाने की आवश्यकता थी। मुझे इक्विटी, फॉरेक्स और क्रिप्टो में बीस हज़ार सिग्नल्स को सपोर्ट करने की ज़रूरत थी। प्रत्येक सिग्नल का अपना मार्केट स्कोप था। यह मॉडल की समस्या नहीं थी। यह हार्नेस (harness) की समस्या थी।
मैंने छह लहरों (waves) में व्यवस्थित तीस टिकट्स की एक योजना तैयार करने के लिए AI का उपयोग किया। मैंने काम करने के लिए किसी एक सिंगल सेशन पर भरोसा नहीं किया। इसके बजाय, मैंने दो अलग-अलग AI सेशन्स का उपयोग किया:
• द बिल्डर (The Builder): एक सेशन ने कोड और योजना तैयार की। • द ऑडिटर (The Auditor): दूसरे सेशन ने कोड लिखे जाने से पहले डिज़ाइन की जाँच की।
पहली ऑडिट सफल रही। मुझे लगा कि मैं सफल रहा। फिर मैंने पूरी डिज़ाइन की शुरुआत से ऑडिट करने के लिए तीसरे AI का उपयोग किया। इसने चौदह उच्च-गंभीरता वाले विरोधाभास (contradictions) पाए।
डिज़ाइन सतह पर अच्छा दिख रहा था। इसमें संरचना और शीर्षक थे। लेकिन इसमें गहराई (substance) की कमी थी। एक टिकट ने ऐसे कॉलम का संदर्भ दिया जिसे दूसरे टिकट ने पहले ही रीनेम कर दिया था। एक अन्य टिकट ने एक फ़ील्ड को वैकल्पिक (optional) होने की अपेक्षा की, जबकि डिज़ाइन ने उसे अनिवार्य (required) बना दिया था। ये कोडिंग बग्स नहीं थे। ये डिज़ाइन में तार्किक विरोधाभास थे।
यदि मैंने कोडिंग शुरू कर दी होती, तो सिस्टम विफल हो जाता।
इसने मुझे AI के साथ काम करने के बारे में तीन बातें सिखाईं:
- AI को बातचीत पूरी करने के लिए प्रशिक्षित किया गया है, न कि अनिवार्य रूप से कार्यों (tasks) के लिए। यह आपको एक संतोषजनक उत्तर देना चाहता है, न कि हमेशा एक सही उत्तर।
- AI की कॉन्टेक्स्ट विंडो (context window) सीमित होती है। यदि कोई बाधा (constraint) उस विंडो के बाहर है, तो मॉडल उस कमी को किसी तर्कसंगत (plausible) चीज़ से भर देगा। तर्कसंगत होना अक्सर गलत होता है।
- मॉडल एक कमोडिटी है। असली उत्पाद वह हार्नेस है जिसे आप इसके चारों ओर बनाते हैं।
हार्नेस वह प्रक्रिया है जिसे आप मॉडल के चारों ओर लपेटते हैं। इसमें शामिल हैं:
- डिज़ाइन अलाइनमेंट (Design alignment): यह सुनिश्चित करना कि मॉडल और आप एक ही समस्या को देख रहे हैं।
- मल्टी-सेशन ऑडिटिंग (Multi-session auditing): काम की जाँच करने के लिए अलग-अलग कॉन्टेक्स्ट का उपयोग करना।
- हार्डन्ड टेस्टिंग (Hardened testing): ऐसे स्क्रिप्ट का उपयोग करना जिन्हें इस बात से कोई फर्क नहीं पड़ता कि AI कितना आत्मविश्वासी लग रहा है।
मॉडल लीवर है। हार्नेस वह है जो उस लीवर को आपके सिस्टम को तोड़ने से रोकता है। केवल एक मॉडल न खरीदें। एक कॉकपिट (cockpit) बनाएं।
Source: https://dev.to/whetlan/the-lever-needs-a-harness-14e9
Optional learning community: https://t.me/GyaanSetuAi