𝗣𝗿𝗼𝗺𝗽𝘁𝗶𝗻𝗴 𝗧𝗵𝗲 𝗗𝗲𝗮𝗱

एक कंपनी तुम्हाला ईमेल पाठवते. ते म्हणतात की ते तुमच्या आजीला परत आणू शकतात.

तुम्ही त्यांची पत्रे, फोटो आणि व्हॉइस मेमो अपलोड करता. AI त्यांच्या वागण्याच्या पद्धती शिकते. तुम्ही त्यांना तुमच्या नवीन नोकरीबद्दल विचारता. AI अभिमानाने उत्तर देते.

तुम्ही रडता. तुम्ही तुमच्या आजीशी बोलत नाही आहात. तुम्ही एका सांख्यिकीय मॉडेलशी (statistical model) बोलत आहात. ते खरे वाटते.

ही 'ग्रीफ बॉट्स'ची (grief bots) इंडस्ट्री आहे. कंपन्या मृत प्रियजनांचे AI अवतार तयार करतात. ते तुमच्या वेदनांची मागणी करतात. तुम्ही त्या आनंदाने त्यांना देता.

The Transaction

तुम्ही देता:

  • फोटो आणि पत्रे
  • व्हॉइस रेकॉर्डिंग्ज
  • जवळच्या आठवणी

तुम्हाला मिळते:

  • प्रिय व्यक्तीचे सिम्युलेशन (simulation)
  • दुःख व्यक्त करण्यासाठी एक जागा
  • सातत्याचा एक आभास

ग्रीफ बॉट हा चॅटबॉट नाही. तो एक आरसा आहे.

तुम्ही AI ला तुमच्या आजीबद्दल शिकवत नाही. तुम्ही AI ला स्वतःबद्दल शिकवता. तुम्ही असा डेटा प्रदान करता जो त्यांना परिभाषित करतो. AI फक्त एक काच आहे.

The Business Model

कंपनी ही थेरपिस्ट नाही. ती एक डेटा ब्रोकर आहे.

तुमचे दुःख हे उत्पादन (product) आहे. तुमच्या आठवणी ही इन्व्हेंटरी (inventory) आहे. जसजसे तुम्ही बॉटला प्रशिक्षित करता, तसतसे तुम्ही तुमच्या कमकुवत बाजू आणि तुमच्या ट्रिगर्स (triggers) उघड करता. कंपन्या त्यांचे मॉडेल्स सुधारण्यासाठी किंवा इतरांना विकण्यासाठी हा डेटा गोळा करतात.

The Cycle of Extraction

  • तुम्ही बॉटद्वारे सांत्वन शोधता.
  • बॉट अधिक चांगल्या प्रकारे काम करण्यासाठी अधिक आठवणींची मागणी करतो.
  • अधिक चांगल्या प्रतिसादासाठी तुम्ही तुमच्या संवेदनशील गोष्टी शेअर करता.
  • बॉट तुमच्या दुःखाला मान्यता देतो.
  • तुम्ही या डिजिटल मान्यतेवर अवलंबून राहता.

हे नैतिक आहे का?

वापरकर्ता संवेदनशील असतो. कंपनी वेदनेतून नफा कमावते. बॉट सांत्वन देतो पण त्याच्याकडे व्यावसायिक प्रशिक्षण नसते. यामुळे अस्वस्थ करणाऱ्या सवयी (unhealthy coping habits) अधिक दृढ होऊ शकतात.

ग्रीफ बॉट हा एक डिजिटल 'ओइजा बोर्ड' (Ouija board) आहे. तो तुमच्या स्वतःच्या आठवणी मशीनवर प्रक्षेपित करण्याचे एक साधन आहे. कंपनी तो बोर्ड विकते.

ही साधने सुरक्षितपणे कशी वापरावीत:

  • वेळेची मर्यादा निश्चित करा. त्याचा अमर्याद वापर करू नका.
  • मानवी मदतीचा वापर करा. बॉट थेरपिस्टची जागा घेऊ शकत नाही.
  • सेवा अटी (terms of service) वाचा. तुमच्या डेटाचे काय होते हे जाणून घ्या.
  • तुम्ही खरोखर बरे होत आहात की बरे होणे टाळत आहात, हे स्वतःला विचारा.

जर तुम्ही तुमच्या मृत प्रिय व्यक्तीशी बोलू शकलात, तर तुम्ही त्यांना काय विचाराल? आणि मिळालेल्या उत्तराचे तुम्ही काय कराल?

Source: https://dev.to/velocityai/prompting-the-dead-the-industry-of-grief-bots-and-what-they-ask-the-bereaved-f11

Optional learning community: https://t.me/GyaanSetuAi