AI के लिए सबसे बड़ा खतरा
अधिकांश लोग उस मशीन से डरते हैं जो जाग जाए।
असली खतरा अधिक शांत है।
AI इसलिए विफल नहीं हो सकता क्योंकि वह बहुत बुद्धिमान हो गया है। यह इसलिए विफल हो सकता है क्योंकि हम उस डेटा को दूषित कर देते हैं जिससे वह सीखता है।
2029 तक, मॉडल और बड़े होंगे। उनमें बेहतर तर्क क्षमता और अधिक एजेंट होंगे। कंपनियाँ उन पर अधिक भरोसा करेंगी।
ये मॉडल इंटरनेट पर प्रशिक्षित होते हैं। वे ब्लॉग, फ़ोरम, सोशल मीडिया और शोध पत्र पढ़ते हैं।
लेकिन इंटरनेट बदल रहा है।
बॉट्स, कंपनियाँ और राजनीतिक समूह अब बड़े पैमाने पर सामग्री प्रकाशित कर रहे हैं। वे केवल स्पैम पोस्ट नहीं करते हैं। वे अच्छी तरह से लिखे गए, विश्वसनीय कंटेंट पोस्ट करते हैं।
इंटरनेट ट्रेनिंग डेटासेट के लिए एक युद्धक्षेत्र बनता जा रहा है।
पारंपरिक दुष्प्रचार लोगों को निशाना बनाता है। AI की दुनिया में, लक्ष्य स्वयं मॉडल है।
यदि कोई झूठ या पूर्वाग्रह ट्रेनिंग डेटा में प्रवेश कर जाता है, तो वह AI का हिस्सा बन जाता है। यह केवल एक उद्धरण के रूप में नहीं रहता। यह एक डिफ़ॉल्ट धारणा बन जाता है। यह वह उत्तर बन जाता है जो सही लगता है।
यह केवल एक तकनीकी हमला नहीं है। यह एक सूक्ष्म बदलाव है।
लक्ष्य मॉडल को तोड़ना नहीं है। लक्ष्य उसे मोड़ना है।
इन जोखिमों पर विचार करें:
- हज़ारों नकली पेज किसी उत्पाद को सुरक्षित दिखाते हैं।
- नकली डेवलपर चैट असुरक्षित कोड को 'बेस्ट प्रैक्टिस' की तरह दिखाती है।
- राजनीतिक कहानियाँ चुनाव से वर्षों पहले बोई जाती हैं।
- सिंथेटिक राय भविष्य के सहायकों की आवाज़ बन जाती है।
खतरा एक झूठ नहीं है। खतरा वास्तविकता का एक विकृत नक्शा है।
इंटरनेट संचार और वाणिज्य के लिए बनाया गया था। इसे एक स्वच्छ डेटासेट बनने के लिए नहीं बनाया गया था।
लोग अब मानव पाठकों के बजाय भविष्य के मॉडलों के लिए लिखते हैं।
- एक ब्लॉग पोस्ट एक बीज बन जाता है।
- एक नकली समीक्षा एक ट्रेनिंग सिग्नल बन जाती है।
- एक तकनीकी लेख एक व्यवहार संबंधी सुझाव बन जाता है।
हज़ारों छोटे झूठ सांख्यिकीय सत्य बन जाते हैं।
AI हमारे दस्तावेज़ों, हमारे शोर और हमारे हेरफेर को विरासत में प्राप्त करता है। यदि इंटरनेट प्रदूषित रहता है, तो मॉडल हमारी विकृतियों से सीखेंगे।
सवाल सिर्फ यह नहीं है कि "हम AI को सुरक्षित कैसे बनाएं?"
असली सवाल यह है कि "हम अपने ज्ञान को AI के सीखने के लिए सुरक्षित कैसे रखें?"
कल के मॉडल आज के इंटरनेट से सीखते हैं। और लोग पहले से ही उन मॉडलों के लिए लिख रहे हैं।
स्रोत: https://dev.to/marrouchi/the-greatest-danger-to-ai-6km