तुम्ही प्रोडक्शनमध्ये (production) पाठवलेली कोडची प्रत्येक ओळ अल्गोरिदमला (algorithm) कसे वागावे हे शिकवते. त्याचे परिणाम व्यापक असतात. कोणाचे कर्ज मंजूर होईल, कोणत्या वैद्यकीय स्कॅनला प्राधान्य दिले जाईल आणि वापरकर्त्याच्या फीडमध्ये कोणते कंटेंट दिसेल, हे त्यावरून ठरते. एक डेव्हलपर (developer) म्हणून, तुम्ही केवळ फीचर्स (features) तयार करत नाही आहात. तुम्ही ही प्रणाली मानवी जीवनाशी कशी संवाद साधते, याचे स्वरूप घडवत आहात.

ही जबाबदारी केवळ कार्यात्मक सॉफ्टवेअर (functional software) तयार करण्यापेक्षा अधिक खोलवर आहे. तंत्रज्ञान विकसित करणे पुरेसे नाही. ते जबाबदारीने विकसित करणे आवश्यक आहे. नैतिक अल्गोरिदम (Ethical algorithms) केवळ बेंचमार्कवर (benchmarks) चांगली कामगिरी करत नाहीत. ते सक्रियपणे हानी रोखतात आणि कालांतराने, त्यांचा वापर करणाऱ्या लोकांचा विश्वास संपादन करतात. तो विश्वास नाजूक असतो. ट्रेनिंग पाइपलाइनमधील (training pipeline) एक निष्काळजी निवड किंवा गोपनीयता सेटिंगमधील (privacy setting) अस्पष्टता तो विश्वास मोडीत काढू शकते. तुमचा कोड समाजाला आकार देतो. तुमच्या निवडी महत्त्वाच्या असणे आवश्यक आहे.

तुम्ही जे निर्माण करता त्याची जबाबदारी

डेव्हलपर्स AI चे भविष्य घडवत आहेत. ही प्रणाली कशी वागावी हे तुम्ही ठरवता. जेव्हा तुम्ही डीबगिंग मोडमध्ये (debugging mode) असता, लॉस कर्व्ह्स (loss curves) आणि लॅटन्सी मेट्रिक्स (latency metrics) पाहत असता, तेव्हा हे सामर्थ्य विसरणे सोपे जाते. परंतु तुम्ही प्रशिक्षित केलेले मॉडेल्स (models) पायाभूत सुविधा (infrastructure) बनतात. ते भरतीचे निर्णय, क्रेडिट स्कोअरिंग, गुन्हेगारी जोखीम मूल्यांकन आणि शैक्षणिक प्रवेश यांवर प्रभाव टाकतात.

याचा विचार स्ट्रक्चरल इंजिनिअरिंगप्रमाणे (structural engineering) करा. पूल बांधणारा व्यक्ती केवळ असे म्हणू शकत नाही की साहित्य उपलब्ध होते आणि गणित बरोबर होते. त्यांना हे विचारावे लागेल की डिझाइन वास्तविक जगातील ताण सहन करू शकते का आणि त्यावर चालणारे लोक सुरक्षित आहेत का. तोच निकष येथेही लागू होतो. नियंत्रित प्रयोगात (controlled experiment) उत्तम काम करणारा अल्गोरिदम वास्तविक मानवी वास्तव समोर आल्यावर नुकसान पोहोचवू शकतो. ते नुकसान रोखणे हा कामाचा भाग आहे. तो केवळ नंतरचा विचार नाही किंवा कायदेशीर टीमची समस्या नाही. तो या कलेचा गाभा आहे.

डेटा गोपनीयता आणि सुरक्षा

तुम्ही मॉडेलला काय देता, तिथून सुरुवात करा. डेटा गोपनीयता आणि सुरक्षा (Data privacy and security) या केवळ उत्पादन पाठवल्यानंतर पूर्ण कराव्या लागणाऱ्या 'चेकबॉक्स' गोष्टी नाहीत. त्या सुरुवातीलाच घेतलेले आर्किटेक्चरल निर्णय (architectural decisions) आहेत.

डेटा संकलनादरम्यान कठीण प्रश्न विचारा. मॉडेल सुधारण्यासाठी तुम्हाला खरोखर वापरकर्त्यांच्या मूळ संभाषणांची (raw conversations) साठवणूक करण्याची गरज आहे का, की तुम्ही ओळख पटवणारे घटक (identifiers) काढून टाकून एकत्रित पॅटर्न (aggregated patterns) वापरू शकता? तुम्ही संवेदनशील इनपुट (sensitive inputs) किती काळ ठेवता? तुम्ही डेटा हटवण्याच्या विनंतीचा (deletion requests) मान राखण्यासाठी काही मार्ग तयार केला आहे का, की तो डेटा अशा ठिकाणी (bucket) पडून आहे जिथे कोणीही लक्ष देत नाही?

AI प्रणालींच्या सुरक्षेमध्ये स्वतःचे विशिष्ट धोके आहेत. प्रॉम्प्ट इंजेक्शन अटॅक्स (Prompt injection attacks) मॉडेलला त्याचे सुरक्षा उपाय (safeguards) दुर्लक्षित करण्यास फसवू शकतात. जर मॉडेल ट्रेनिंग दरम्यान ओव्हरफिट (overfit) झाले असेल, तर ट्रेनिंग डेटा एक्सट्रॅक्शन अटॅक्स (training data extraction attacks) वेट्समधून (weights) खाजगी माहिती बाहेर काढू शकतात. तुम्हाला एका शत्रूसारखा (adversary) विचार करावा लागेल. डेटा 'एट रेस्ट' (at rest) आणि 'इन ट्रान्झिट' (in transit) असताना एन्क्रिप्ट (Encrypt) करा. ट्रेनिंग डेटासेटचा प्रवेश मर्यादित ठेवा. प्रोडक्शन मॉडेल्सना (production models) कोण क्वेरी करू शकते याचे ऑडिट करा आणि ते काय विचारतात याची नोंद (log) ठेवा. ही कामे साधी वाटू शकतात, पण ती वापरकर्त्याचा विश्वास आणि डेटा ब्रीचच्या (data breach) हेडलाईनमधील अंतर राखणारा अडथळा ठरतात.

ट्रेनिंग सेट्समधील पूर्वग्रह रोखणे

मॉडेल्स तुम्ही त्यांना दाखवलेले पॅटर्न शिकतात. जर ट्रेनिंग डेटा ऐतिहासिक असमानता (historical inequity) दर्शवत असेल, तर मॉडेल त्या असमानतेला भयानक वेग आणि व्याप्तीसह स्वयंचलित (automate) करेल. ट्रेनिंग सेट्समधील पूर्वग्रह रोखण्यासाठी (Bias prevention) पहिल्या डेटा संकलनापासून ते अंतिम उपयोजनापर्यंत (deployment) सतर्कतेची आवश्यकता असते.

याचा अर्थ केवळ एकूण अचूकतेपलीकडे (aggregate accuracy) पाहणे असा आहे. एक वैद्यकीय निदान मॉडेल (medical diagnostic model) एकूणच चांगले गुण मिळवू शकते, परंतु गडद त्वचेच्या प्रतिमांवर सातत्याने अपयशी ठरू शकते. जर ट्रेनिंग डेटा दशकांच्या एकसारख्या पदोन्नती इतिहासातून येत असेल, तर भरतीचे साधन जुने पूर्वग्रह पुन्हा निर्माण करू शकते. तुम्हाला लोकसंख्याशास्त्रीय प्रतिनिधित्वाचे (demographic representation) ऑडिट करावे लागेल. केवळ संपूर्ण लोकसंख्येसाठी नाही, तर उपसमूहांसाठी (subgroups) त्रुटींचे दर तपासावे लागतील. विविध अ‍ॅनोटेशन टीम्सना (annotation teams) सामील करून घ्या जेणेकरून सर्व व्यक्तिनिष्ठ लेबल्स (subjective labels) एकाच दृष्टिकोनातून येणार नाहीत.

पूर्वग्रह रोखणे हे संदर्भाशी (context) देखील संबंधित आहे. उत्तर अमेरिकन स्त्रोतांकडून घेतलेल्या इंग्रजी मजकुरावर प्रशिक्षित केलेले मॉडेल मुंबई किंवा लागोसमधील वाक्प्रचारांशी (idioms) संघर्ष करेल. ही आर्किटेक्चरमधील त्रुटी नाही, तर डेटासेटमधील त्रुटी आहे. स्त्रोत वाढवून, कमी प्रतिनिधित्व असलेल्या डेटाला महत्त्व देऊन आणि रिलीज करण्यापूर्वी अ‍ॅडव्हर्सरिअल टेस्ट्स (adversarial tests) चालवून ती दुरुस्त करा. 'फेअरनेस'ला (fairness) अशा बगप्रमाणे (bug) माना जो तुम्ही ट्रॅक करता, ट्रायज (triage) करता आणि सोडवता.

निर्णय प्रक्रियेतील पारदर्शकता

लोक जेव्हा मशीनशी बोलत असतात तेव्हा त्यांना ते माहित असणे आवश्यक आहे आणि जेव्हा ते मशीन त्यांच्याबद्दल निर्णय घेते तेव्हा त्यांना त्याचे स्पष्टीकरण मिळणे आवश्यक आहे. निर्णय प्रक्रियेतील पारदर्शकता म्हणजे वापरकर्त्यांना त्यांच्यासोबत नक्की काय घडत आहे हे सांगण्याइतपत त्यांचा आदर करणे.

डेव्हलपर्ससाठी, याचा अर्थ व्यावहारिक उत्पादन निवडी असा होतो. जर एखाद्या AI ने कर्ज नाकारले, तर अर्जदाराला त्या नाकारण्यामागची मुख्य कारणे दिसली पाहिजेत, केवळ एक सामान्य नकार संदेश नाही. जर कंटेंट मॉडरेशन सिस्टमने एखादी पोस्ट हटवली, तर वापरकर्त्याला कोणत्या नियमामुळे असे झाले हे समजले पाहिजे. मॉडेल कार्ड्स प्रकाशित करा ज्यामध्ये अपेक्षित वापर (intended use cases), ज्ञात मर्यादा आणि विविध लोकसंख्येतील कामगिरी स्पष्टपणे नमूद केलेली असेल. असे लॉगिंग तयार करा ज्यामुळे ऑडिटर्सना महत्त्वाच्या निर्णयांपर्यंत कसे पोहोचले याचा मागोवा घेता येईल.

पारदर्शकता म्हणजे केवळ कच्चा प्रोबॅबिलिटी वेट्स (probability weights) स्क्रीनवर टाकणे नव्हे. तर प्रामाणिकपणे संवाद साधणारे इंटरफेस डिझाइन करणे होय. एखादा प्रतिसाद AI-व्युत्पन्न (AI-generated) आहे की नाही, याचा अंदाज वापरकर्त्यांना लावण्याची गरज पडू नये. जेव्हा सिस्टमकडून काही चूक होते, तेव्हा वापरकर्त्यांना एखाद्या 'ब्लॅक बॉक्स'शी (black box) लढावे लागू नये.

मॉडेल आउटपुट्ससाठी उत्तरदायित्व (Accountability)

ज्या मॉडेलवर प्रश्न विचारता येत नाहीत, त्या मॉडेलवर विश्वास ठेवता येत नाही. मॉडेल आउटपुट्ससाठी उत्तरदायित्व (Accountability) म्हणजे जेव्हा सिस्टम अपयशी ठरते, तेव्हा कोणीतरी, कुठेतरी, त्याची जबाबदारी घेऊ शकेल.

महत्त्वाच्या निर्णयांसाठी मानवी देखरेख (human oversight) समाविष्ट करा. एखादा अल्गोरिदम व्यवहाराला फसवणुकीचा (fraudulent) म्हणून चिन्हांकित करू शकतो, परंतु व्यवहार गोठवण्यापूर्वी (freeze) एखाद्या व्यक्तीने त्याची पडताळणी केली पाहिजे. AI कायदेशीर मजकूर मसुदा तयार करू शकते, परंतु एखाद्या पात्र व्यावसायिकाने त्यावर स्वाक्षरी करणे आवश्यक आहे. फीडबॅक लूप्स तयार करा जेणेकरून वापरकर्ते त्रुटींची तक्रार करू शकतील आणि तुम्ही सुधारणांचे प्रमाण मोजू शकाल. जेव्हा... साठी स्पष्ट एस्केलेशन पाथ्स (escalation paths) स्थापित करा.