ചിലപ്പോൾ ഉൽപ്പന്നത്തിന്റെ മാനുവലിനേക്കാൾ വേഗത്തിൽ വിമർശനങ്ങൾ എത്താറുണ്ട്. Meta തങ്ങളുടെ Muse Image AI മോഡലിനുള്ളിൽ ഒരു പുതിയ സവിശേഷത നിശബ്ദമായി അവതരിപ്പിച്ചപ്പോൾ, പിന്നീട് കടുത്ത വിമർശനങ്ങളെത്തുടർന്ന് ഏതാനും ദിവസങ്ങൾക്കുള്ളിൽ തന്നെ അത് പിൻവലിക്കേണ്ടി വന്നപ്പോൾ ഈ പാഠം കഠിനമായി പഠിക്കേണ്ടി വന്നു. ഒരു പബ്ലിക് അക്കൗണ്ട് പ്രോംപ്റ്റിൽ ടാഗ് ചെയ്യുന്നതിലൂടെ ഏതൊരു Instagram ഉപയോക്താവിനും AI ചിത്രങ്ങൾ നിർമ്മിക്കാൻ ഈ ടൂൾ അനുവദിച്ചിരുന്നു. ഒരു @-mention ടൈപ്പ് ചെയ്യുന്നതിലൂടെ, ടാർഗെറ്റ് അക്കൗണ്ടിന്റെ രൂപം, ശൈലി അല്ലെങ്കിൽ പോസ്റ്റ് ചെയ്ത ഉള്ളടക്കം എന്നിവ ഉപയോഗിച്ച് പുതിയ ദൃശ്യങ്ങൾ നിർമ്മിക്കാൻ ഉപയോക്താക്കൾക്ക് സിസ്റ്റത്തിന് നിർദ്ദേശം നൽകാൻ കഴിയുമായിരുന്നു. Meta ഇപ്പോൾ ഈ ഫീച്ചർ പൂർണ്ണമായും നിർത്തലാക്കിയിരിക്കുകയാണ്. കമ്പനിയുടെ പ്ലാറ്റ്ഫോമുകളിൽ ജനറേറ്റീവ് AI സംയോജിപ്പിക്കാനുള്ള സമീപനത്തിനിടയിൽ ഉണ്ടായ ഏറ്റവും പെട്ടെന്നുള്ള പിന്മാറ്റങ്ങളിൽ ഒന്നാണിത്.
രോഷം ആളിക്കത്തിച്ച ആ സവിശേഷത
ഇതിന്റെ പ്രവർത്തനരീതി ലളിതമായിരുന്നു, അതാണ് യഥാർത്ഥത്തിൽ പ്രശ്നമായതും. ഒരു ഉപയോക്താവിന് Meta AI തുറന്ന് തങ്ങൾക്ക് ആവശ്യമുള്ള ചിത്രത്തെക്കുറിച്ച് വിവരിക്കാനും ഒരു പബ്ലിക് Instagram ഹാൻഡിൽ പരാമർശിക്കാനും സാധിക്കും. തുടർന്ന് മോഡൽ ആ അക്കൗണ്ടിലെ പരസ്യമായി കാണാവുന്ന ഫോട്ടോകൾ വിശകലനം ചെയ്യുകയും ആ വ്യക്തിയുടെ മുഖം, ശരീരം, വസ്ത്രധാരണ ശൈലി അല്ലെങ്കിൽ കലാപരമായ സമീപനം എന്നിവ പ്രതിഫലിപ്പിക്കുന്ന തരത്തിലുള്ള ചിത്രങ്ങൾ നിർമ്മിക്കുകയും ചെയ്യും. പ്രൊഫൈലുകൾ പബ്ലിക് ആയി സൂക്ഷിക്കുന്ന നടന്മാർ, ഫോട്ടോഗ്രാഫർമാർ, മോഡലുകൾ, സാധാരണ ഉപയോക്താക്കൾ എന്നിവരെ സംബന്ധിച്ചിടത്തോളം, അവരുടെ ഡിജിറ്റൽ വ്യക്തിത്വം യാതൊരു മുൻകൂർ മുന്നറിയിപ്പുമില്ലാതെ മാറ്റം വരുത്തപ്പെടാം എന്നതിനർത്ഥം.
Meta ഈ ഫംഗ്ഷനെ സർഗ്ഗാത്മകത വർദ്ധിപ്പിക്കാനുള്ള ഒരു മാർഗമായാണ് അവതരിപ്പിച്ചത്. ആരാധകർ തങ്ങളുടെ പ്രിയപ്പെട്ട ക്രിയേറ്റർമാരുടെയോ കലാകാരന്മാരുടെയോ സ്റ്റൈലിഷ് പോർട്രെയ്റ്റുകൾ നിർമ്മിക്കുമെന്നും അല്ലെങ്കിൽ വിഷ്വൽ തീമുകളിൽ മാറ്റങ്ങൾ വരുത്തുമെന്നും കമ്പനി പ്രതീക്ഷിച്ചിരിക്കാം. എന്നാൽ ലക്ഷ്യവും നടപ്പിലാക്കലും തമ്മിൽ വലിയൊരു വ്യത്യാസമുണ്ടായിരുന്നു. അക്കൗണ്ട് ഉടമയുടെ വ്യക്തമായ സമ്മതം ഈ ടൂളിന് ആവശ്യമില്ലാത്തതിനാൽ, കീബോർഡ് ഉപയോഗിക്കാൻ അറിയാവുന്ന ആർക്കും ഓരോ പബ്ലിക് പ്രൊഫൈലും ഉപയോഗിക്കാവുന്ന അസംസ്കൃത വസ്തുവായി മാറി. പ്രൈവറ്റ് അക്കൗണ്ടുകൾ ഇതിൽ ബാധിക്കപ്പെട്ടില്ലെങ്കിലും, തൊഴിൽപരമോ സാമൂഹികമോ ആയ കാരണങ്ങളാൽ പ്രൊഫൈലുകൾ പബ്ലിക് ആയി സൂക്ഷിക്കുന്ന ദശലക്ഷക്കണക്കിന് ഉപയോക്താക്കളെ സംബന്ധിച്ചിടത്തോളം, അവരുടെ രൂപം അൽഗോരിതമിക് പുനരുപയോഗത്തിന് തുറന്നുകൊടുത്തു എന്നാണ് പ്ലാറ്റ്ഫോം പ്രായോഗികമായി പ്രഖ്യാപിച്ചത്. ഇത് പരമ്പരാഗതമായ രീതിയിലുള്ള ബൾക്ക് ഡാറ്റ സ്ക്രാപ്പിംഗ് ആയിരുന്നില്ല. മറിച്ച്, യഥാർത്ഥ മനുഷ്യരെ ലക്ഷ്യം വെച്ചുള്ള, ആവശ്യാനുസരണം നിർമ്മിച്ചെടുക്കുന്ന രീതിയായിരുന്നു അത്.
ഡിജിറ്റൽ സമ്മതത്തിന്റെ അടിസ്ഥാന യുക്തിയെ ഇത് മറികടക്കുന്നു എന്ന് വിമർശകർ വേഗത്തിൽ ചൂണ്ടിക്കാട്ടി. വ്യക്തിഗത ചിത്രങ്ങളുടെ മൂന്നാം കക്ഷി ഉപയോഗം അനുവദിക്കുന്ന മിക്ക പ്ലാറ്റ്ഫോമുകളും, സേവന വ്യവസ്ഥകൾ (terms of service) വിശാലമാണെങ്കിൽ പോലും, ഒരാളുടെ രൂപം ഇഷ്ടാനുസരണം ക്ലോൺ ചെയ്യാൻ സാധാരണ ഉപയോക്താക്കൾക്ക് നിയന്ത്രണം നൽകുന്നില്ല. ഈ വ്യത്യാസം വളരെ പ്രധാനമാണ്. ഒരു ട്രെയിനിംഗ് ഡാറ്റാസെറ്റിനായി പബ്ലിക് ഫോട്ടോകൾ പാസീവ് ആയി സ്ക്രാപ്പ് ചെയ്യുന്നത് ഒരു ധാർമ്മിക പ്രശ്നമാണെങ്കിൽ, പ്രത്യേക വ്യക്തികളെ ലക്ഷ്യം വെച്ചുള്ള ആക്റ്റീവ് ആയ, ഉപയോക്താവ് നിർദ്ദേശിക്കുന്ന ഡീപ്ഫേക്ക് നിർമ്മാണം തികച്ചും വ്യത്യസ്തമായ ഒന്നാണ്. പബ്ലിക് അക്കൗണ്ടുകളെ AI സിന്തസിസ് ചെയ്യാൻ പാകത്തിൽ തുറന്നുവെച്ചതിലൂടെ, പബ്ലിക് വിസിബിലിറ്റിയും വ്യക്തിത്വ അവകാശങ്ങൾ സ്വയം വിട്ടുകൊടുക്കലും തമ്മിലുള്ള അതിർവരമ്പ് Meta ഇല്ലാതാക്കി.
സ്വകാര്യതാ ഭീഷണികളും "ഒപ്റ്റ്-ഔട്ട്" പ്രശ്നവും
വിമർശനങ്ങൾ പല ദിശകളിൽ നിന്നാണ് വന്നത്, അവ വളരെ കഠിനമായിരുന്നു. സ്വകാര്യതാ സംരക്ഷകർ, ക്രിയേറ്റീവ് യൂണിയനുകൾ, സുരക്ഷാ സംഘടനകൾ എന്നിവരെല്ലാം Meta ഈ സിസ്റ്റം തെറ്റായ രീതിയിലാണ് നിർമ്മിച്ചതെന്ന് ചൂണ്ടിക്കാട്ടി രംഗത്തുവന്നു.
സെക്സ്റ്റോർഷനും (sextortion) മറ്റ് തട്ടിപ്പുകൾക്കും ഈ ഫീച്ചർ ഒരു ഉപകരണമായി മാറാൻ സാധ്യതയുണ്ടെന്ന് നാഷണൽ സെന്റർ ഓൺ സെക്ഷ്വൽ എക്സ്പ്ലോയിറ്റേഷന്റെ എക്സിക്യൂട്ടീവ് ഡയറക്ടർ ഹേലി മക്നാമറ മുന്നറിയിപ്പ് നൽകി. അവരുടെ ആശങ്ക വെറും സാങ്കൽപ്പികമായിരുന്നില്ല. ജനറേറ്റീവ് ടൂളുകൾ മെച്ചപ്പെട്ടതോടെ ചിത്രങ്ങളെ അടിസ്ഥാനമാക്കിയുള്ള ദുരുപയോഗം വർദ്ധിച്ചു വരികയാണ്. ഏതൊരു ഉപയോക്താവിനും മറ്റൊരാളുടെ രൂപത്തോട് സാമ്യമുള്ളത് പെട്ടെന്ന് നിർമ്മിക്കാനും അവയെ ഏത് സാഹചര്യത്തിലും പ്രതിഷ്ഠിക്കാനും അനുവദിക്കുന്ന ഒരു സിസ്റ്റം, മുമ്പ് സാങ്കേതികമായ കഴിവ് ആവശ്യമായിരുന്ന ഒരു പ്രക്രിയയെ വളരെ എളുപ്പമാക്കുന്നു. Meta-യുടെ ഈ ഫീച്ചർ യഥാർത്ഥത്തിൽ ചിത്രങ്ങളെ അടിസ്ഥാനമാക്കിയുള്ള ചൂഷണത്തിന്റെ ആദ്യ ഘട്ടത്തെ വ്യവസായവൽക്കരിച്ചു.
കാര്യങ്ങൾ കൂടുതൽ സങ്കീർണ്ണമാക്കിയത്