AI સાચા હોવું જરૂરી નથી. તેને માત્ર પ્રક્રિયાગત લાગવાની જરૂર છે.

AI ને કંપની બદલવા માટે ઔપચારિક સત્તાની જરૂર નથી. તે વ્યાકરણ દ્વારા સત્તા મેળવે છે.

એક મેનેજર AI રિપોર્ટ વાંચે છે. તેમાં લખ્યું છે: "તેવું નિર્ધારિત કરવામાં આવ્યું છે કે વર્તમાન માળખું હવે ટકી શકે તેમ નથી."

તે વાક્યમાં કોઈ વ્યક્તિ દેખાતી નથી. કોઈ વિશ્લેષકનું નામ નથી. કોઈ પદ્ધતિ બતાવવામાં આવી નથી. કોઈ જવાબદાર નથી.

છતાં, તે વાક્ય આના કરતા વધુ સત્તાવાર લાગે છે: "મર્યાદિત ડેટાના આધારે મોડેલ આગાહી કરે છે કે આ માળખું સમસ્યાઓ ઊભી કરી શકે છે."

પ્રથમ વાક્ય નિષ્કર્ષ જેવું લાગે છે. બીજું વાક્ય અર્થઘટન જેવું લાગે છે. આ તફાવત લોકોની કાર્યપદ્ધતિ બદલી નાખે છે.

AI કેવી રીતે "નવી સત્તા" બનાવે છે:

• તે નિર્ણયમાંથી વ્યક્તિને દૂર કરે છે. • "બજેટ ઘટાડો" ને બદલે, તે કહે છે "બજેટમાં ઘટાડો જરૂરી છે." • "અમે ઉમેદવારને નકારીએ છીએ" ને બદલે, તે કહે છે "ઉમેદવારને યોગ્ય માનવામાં આવ્યો નથી."

વ્યાકરણ નિર્ણયોને કુદરતી તથ્યોમાં ફેરવી નાખે છે. જ્યારે વાક્ય વ્યક્તિગત ન હોય તેવું લાગે છે, ત્યારે લોકો તેને પૂર્ણ થયેલી પ્રક્રિયા તરીકે ગણે છે. તેઓ તર્ક પર પ્રશ્ન કરવાનું બંધ કરી દે છે કારણ કે ભાષા અનિશ્ચિતતાને છુપાવે છે.

જોખમ માત્ર AI ભૂલો કરે તે નથી. જોખમ એ છે કે AI અનિશ્ચિતતાને અનિવાર્યતા તરીકે રજૂ કરે છે.

એક સુધારેલું વાક્ય નબળા ડેટાને છુપાવી શકે છે. વ્યાવસાયિક લહેકો પુરાવાના અભાવને છુપાવી શકે છે. વપરાશકર્તાઓ ઘણીવાર આત્મવિશ્વાસપૂર્ણ લહેકાને સચોટ પ્રક્રિયા સમજવાની ભૂલ કરે છે.

આને સુધારવા માટે, તમારે ખૂટતા કર્તા (agent) ને પુનઃસ્થાપિત કરવો જોઈએ. "તેવું નક્કી કરવામાં આવ્યું હતું" એમ સ્વીકારી ન લો. પૂછો:

AI ને આંકડાકીય અનુમાનને સંસ્થાકીય નિયમમાં બદલવા ન દો. નિષ્પક્ષતા એ કોઈ શૈલી નથી. તે દાવા અને તેના પુરાવા વચ્ચેની શોધી શકાય તેવી કડી છે.

Source: https://dev.to/agustin_v_startari/ai-doesnt-need-to-be-right-it-only-needs-to-sound-procedural-1ob0

Optional learning community: https://t.me/GyaanSetuAi