Signal ના Meredith Whittaker ના જણાવ્યા અનુસાર, AI Chatbots તમારા મિત્રો નથી

જેમ જેમ Large Language Models (LLMs) આપણા રોજિંદા ડિજિટલ વર્કફ્લોમાં વધુને વધુ એકીકૃત થઈ રહ્યા છે, તેમ માનવીય સંવાદ અને મશીન પ્રતિસાદ વચ્ચેની રેખા ધૂંધળી બની રહી છે. Signal ના પ્રમુખ Meredith Whittaker વપરાશકર્તાઓને કડક ચેતવણી આપી રહ્યા છે: અત્યાધુનિક આંકડાકીય મોડેલિંગને સાચી મિત્રતા અથવા સભાન બુદ્ધિ સમજવાની ભૂલ કરશો નહીં.

LLMs માં સભાનતાનો ભ્રમ

Bloomberg સાથેના તાજેતરના ઇન્ટરવ્યુમાં, Meredith Whittaker એ OpenAI ના ChatGPT અને Anthropic ના Claude જેવા AI મોડેલ્સને માનવીય સ્વરૂપ આપવાની વધતી જતી વૃત્તિ પર ચર્ચા કરી હતી. તેણીએ ભારપૂર્વક જણાવ્યું હતું કે તેમની વાતચીત કરવાની સરળતા હોવા છતાં, આ સિસ્ટમ્સમાં ચેતના અને સ્વાયત્તતાનો અભાવ છે. "આ તમારા મિત્રો નથી. આ સભાન જીવો નથી. આ સભાન સંવાદ સાથીઓ નથી," Whittaker એ જણાવ્યું હતું, અને વપરાશકર્તાઓને યાદ અપાવ્યું હતું કે ચેટબોટ્સ મૂળભૂત રીતે એક ક્રમમાં આગામી ટોકનનું અનુમાન લગાવવા માટે રચાયેલ અત્યાધુનિક એન્જિન છે.

Whittaker ની ચિંતા માત્ર દાર્શનિક વ્યાખ્યાઓ પૂરતી મર્યાદિત નથી, પરંતુ માનવ સર્જનાત્મકતા પર AI ની વ્યાપક અસર વિશે પણ છે. જોકે તેઓ દસ્તાવેજ ફોર્મેટિંગ જેવા નાના કાર્યો માટે AI સાધનોનો ઉપયોગ કરવાનું સ્વીકારે છે, પરંતુ તેઓ ઉચ્ચ સ્તરના તર્ક માટે તેનો ઉપયોગ કરવાનો ઇનકાર કરે છે. તેમનું કહેવું છે કે વિચારધારા (ideation) માટે AI પર નિર્ભર રહેવાથી માનવ વિચાર પ્રક્રિયા "મર્યાદિત" થવાનું જોખમ રહે છે, કારણ કે આ મોડેલ્સ "હાલમાં ઉપલબ્ધ માહિતીનું સરેરાશ" કાઢીને કાર્ય કરે છે, જે સંભવિત રીતે મૂળભૂત અને બિન-નકલવાળી વિચારશક્તિને દબાવી શકે છે.

"Agentic" AI ની પ્રાઇવસી કિંમત

જ્યારે "AI Agents" — વપરાશકર્તા વતી સ્વાયત્ત રીતે કાર્ય કરવા માટે રચાયેલ સિસ્ટમ્સ — ના ઉદય વિશે ચર્ચા કરવામાં આવી ત્યારે વાતચીત વધુ ગંભીર વળાંક લઈ હતી. Whittaker એ ખાસ કરીને Microsoft AI ના CEO Mustafa Suleyman ની આગાહીનો વિરોધ કર્યો હતો, જેમણે સૂચવ્યું હતું કે Microsoft Copilot જેવા સાધનો અંતે રજાઓ દરમિયાન શોપિંગ જેવા જટિલ વ્યક્તિગત કાર્યોનું સંચાલન કરી શકે છે.

Whittaker એ આવી "agentic" ક્ષમતાઓમાં રહેલા પ્રાઇવસીના મોટા જોખમો તરફ ધ્યાન દોર્યું હતું. AI દ્વારા વપરાશકર્તાના શોપિંગ અથવા શેડ્યૂલનું સંચાલન કરવા માટે, તેને અત્યંત સંવેદનશીલ ડેટાની વ્યાપક ઍક્સેસની જરૂર પડે છે, જેમાં નીચેનાનો સમાવેશ થાય છે:

• વ્યક્તિગત ક્રેડિટ કાર્ડ માહિતી અને બ્રાઉઝિંગ હિસ્ટ્રી.
• Signal જેવી એપ્સ દ્વારા રીઅલ-ટાઇમ સંવાદ.
• ખાનગી કેલેન્ડર અને ઘરના સરનામા.

સુરક્ષાની દૃષ્ટિએ, વ્હિટaker આ સ્તરના સંકલનને એક મોટી નબળાઈ તરીકે જુએ છે. તેણીએ નોંધ્યું હતું કે AI ને ફેમિલી ગ્રુપ ચેટ્સ મોનિટર કરવાની અથવા વપરાશકર્તા વતી ભાઈ-બહેનોને મેસેજ કરવાની મંજૂરી આપવી એ મૂળભૂત રીતે વપરાશકર્તાના સૌથી ખાનગી ડિજિટલ જીવનમાં એક "બેકડોર" (backdoor) સમાન ગણાશે.

AI ઇકોસિસ્ટમ માટેની અસરો

વ્હિટakerનું વલણ ટેક ઇન્ડસ્ટ્રીમાં વધતા તણાવને રેખાંકિત કરે છે: "એજન્ટિક" (agentic) ઉપયોગિતા અને ગોપનીયતા તથા જ્ઞાનાત્મક સ્વાયત્તતા (cognitive autonomy) ના મૂળભૂત અધિકાર વચ્ચેની સ્પર્ધા. જેમ જેમ ડેવલપર્સ એવા મોડલ્સ તરફ આગળ વધી રહ્યા છે જે અનેક એપ્લિકેશન્સમાં કામ કરી શકે છે, તેમ ઉદ્યોગ એક ગંભીર પ્રશ્નનો સામનો કરી રહ્યો છે: શું આપણે સંપૂર્ણ દેખરેખનું કેન્દ્રીય બિંદુ બનાવ્યા વિના સીમલેસ AI સહાય પ્રાપ્ત કરી શકીએ છીએ? ડેવલપર્સ અને ફાઉન્ડર્સ માટે, આ "privacy-first" AI આર્કિટેક્ચર બનાવવાની જરૂરિયાત પર ભાર મૂકે છે જે વ્યાપક, સર્વ-ઍક્સેસ સંકલન કરતાં લોકલ પ્રોસેસિંગ અને કડક ડેટા સાઇલોઝ (data silos) ને પ્રાધાન્ય આપે છે.

મુખ્ય મુદ્દાઓ

• માનવીયકરણ ટાળો (Avoid Anthropomorphism): AI મોડલ્સ આંકડાકીય સાધનો છે, સભાન જીવો નથી, અને તેમને "મિત્રો" તરીકે ગણવા એ તેમની ક્ષમતાઓ અને જોખમો વિશે ગેરસમજ પેદા કરી શકે છે.
• જ્ઞાનાત્મક સ્વાયત્તતાનું રક્ષણ કરો (Protect Cognitive Autonomy): બ્રેઈનસ્ટોર્મિંગ અને સમસ્યાના ઉકેલ માટે AI પર વધુ પડતો આધાર "regression to the mean" તરફ દોરી શકે છે, જ્યાં માનવ સર્જનાત્મકતા સરેરાશ ડેટાસેટ્સ દ્વારા દબાઈ જાય છે.
• એજન્ટિક પ્રાઇવસી ગેપ (The Agentic Privacy Gap): સ્વાયત્ત AI એજન્ટ્સ માટેના પ્રયાસોમાં વ્યક્તિગત ડેટાના અભૂતપૂર્વ એક્સેસની જરૂર પડે છે, જે નોંધપાત્ર સુરક્ષા બેકડોર અને પ્રાઇવસીની નબળાઈઓ પેદા કરે છે.