कभी-कभी प्रतिक्रिया उत्पाद नियमावली से भी तेज़ आती है। Meta ने इसे कठिन अनुभव से सीखा जब उसने अपने Muse Image AI मॉडल के भीतर चुपचाप एक नई क्षमता पेश की, लेकिन आलोचनाओं के तूफान के बीच कुछ ही दिनों बाद अपना फैसला बदलना पड़ा। इस टूल ने किसी भी Instagram उपयोगकर्ता को अपने प्रॉम्प्ट में केवल एक सार्वजनिक खाते को टैग करके AI इमेज बनाने की अनुमति दी थी। @-mention टाइप करके, उपयोगकर्ता सिस्टम को लक्षित खाते की समानता, सौंदर्य या पोस्ट की गई सामग्री से नए दृश्य तैयार करने का निर्देश दे सकते थे। Meta ने अब इस फीचर को पूरी तरह से अक्षम कर दिया है। यह घटना कंपनी द्वारा अपने प्लेटफार्मों पर जनरेटिव AI को एकीकृत करने के हालिया प्रयासों में सबसे अचानक पीछे हटने वाले कदमों में से एक है।
वह फीचर जिसने आक्रोश पैदा किया
इसकी कार्यप्रणाली सरल थी, और यही मुख्य समस्या थी। एक उपयोगकर्ता Meta AI खोल सकता था, अपनी पसंद की छवि का वर्णन कर सकता था, और एक सार्वजनिक Instagram हैंडल का संदर्भ दे सकता था। मॉडल फिर उस खाते की सार्वजनिक रूप से दिखाई देने वाली तस्वीरों का विश्लेषण करता और ऐसी व्युत्पन्न छवियां बनाता जो विषय के चेहरे, शरीर, कपड़ों की शैली या कलात्मक दृष्टिकोण की झलक देती थीं। अभिनेताओं, फोटोग्राफरों, मॉडलों और उन रोज़मर्रा के उपयोगकर्ताओं के लिए जिन्होंने अपनी प्रोफाइल सार्वजनिक रखी थी, इसका मतलब था कि उनकी डिजिटल पहचान को बिना किसी प्रत्यक्ष अनुरोध या चेतावनी के रीमिक्स किया जा सकता था।
Meta ने इस फंक्शन को एक 'क्रिएटिव एक्सेलेरेटर' के रूप में पेश किया। कंपनी ने संभवतः यह कल्पना की होगी कि प्रशंसक अपने पसंदीदा क्रिएटर्स या कलाकारों के स्टाइलिश पोर्ट्रेट बनाएंगे या विजुअल थीम पर आधारित कुछ नया करेंगे। लेकिन इरादे और कार्यान्वयन के बीच का अंतर बहुत बड़ा था। क्योंकि इस टूल के लिए खाता मालिक की स्पष्ट सहमति की आवश्यकता नहीं थी, इसलिए हर सार्वजनिक प्रोफाइल कीबोर्ड चलाने वाले किसी भी व्यक्ति के लिए संभावित कच्चा माल बन गया। निजी खाते इससे अप्रभावित थे, लेकिन उन लाखों उपयोगकर्ताओं के लिए जिनकी प्रोफाइल पेशेवर या सामाजिक कारणों से सार्वजनिक रहती है, प्लेटफॉर्म ने प्रभावी रूप से उनकी समानता को एल्गोरिथम पुन: उपयोग के लिए खुला घोषित कर दिया। यह पारंपरिक अर्थों में बल्क डेटा स्क्रैपिंग नहीं था। यह वास्तविक लोगों का लक्षित, ऑन-डिमांड संश्लेषण था।
आलोचकों ने तुरंत बताया कि इसने डिजिटल सहमति के मूल तर्क को उलट दिया है। अधिकांश प्लेटफॉर्म जो व्यक्तिगत छवियों के तीसरे पक्ष के उपयोग की अनुमति देते हैं, भले ही वे व्यापक सेवा शर्तों के तहत हों, वे किसी की उपस्थिति को अपनी इच्छा से क्लोन करने का नियंत्रण रैंडम उपयोगकर्ताओं को नहीं सौंपते हैं। यह अंतर महत्वपूर्ण है। ट्रेनिंग डेटासेट के लिए सार्वजनिक तस्वीरों की पैसिव स्क्रैपिंग एक नैतिक लड़ाई है; विशिष्ट व्यक्तियों से जुड़ी सक्रिय, उपयोगकर्ता-निर्देशित डीपफेक जनरेशन पूरी तरह से अलग मामला है। सार्वजनिक खातों को AI संश्लेषण के लिए आसान लक्ष्य बनाकर, Meta ने सार्वजनिक दृश्यता और पहचान अधिकारों के सार्वजनिक समर्पण के बीच की रेखा को धुंधला कर दिया।
गोपनीयता जोखिम और "ऑप्ट-आउट" की समस्या
आलोचना कई दिशाओं से आई, और यह काफी तीखी थी। गोपनीयता अधिवक्ताओं, रचनात्मक संघों और सुरक्षा संगठनों ने यह बताने के लिए एकजुट होकर कहा कि Meta ने इस सिस्टम को उल्टा बनाया था।
नेशनल सेंटर ऑन सेक्सुअल एक्सप्लॉइटेशन की कार्यकारी निदेशक हेली मैकनामारा ने चेतावनी दी कि यह फीचर सेक्सटॉर्शन (sextortion) और अन्य घोटालों के लिए एक स्पष्ट उपकरण बन सकता है। उनकी चिंता काल्पनिक नहीं थी। जैसे-जैसे जनरेटिव टूल्स में सुधार हुआ है, छवि-आधारित दुरुपयोग में भी वृद्धि हुई है। एक ऐसा सिस्टम जो किसी भी उपयोगकर्ता को किसी अन्य व्यक्ति की समानता को तुरंत अपनाने और उसे मनमाने परिदृश्यों में रखने की अनुमति देता है, उस प्रक्रिया की बाधाओं को खत्म कर देता है जिसमें पहले कम से कम कुछ तकनीकी कौशल की आवश्यकता होती थी। Meta के फीचर ने मूल रूप से छवि-आधारित शोषण के पहले चरण का औद्योगिकीकरण कर दिया।
मामले को और जटिल बनाने वाली बात थी