स्टॅनफोर्डच्या २०२६ च्या AI इंडेक्सनुसार, गेल्या वर्षी सुरक्षा घटनांची संख्या ३६२ पर्यंत पोहोचली आहे, जे मॉडेल्समधील झपाट्याने होणारी सुधारणा आणि त्यांना विश्वासार्ह ठेवण्यासाठी आवश्यक असलेल्या सुरक्षा उपायांच्या (safeguards) संथ गतीमधील वाढती दरी अधोरेखित करते. प्रत्येक न तपासलेली त्रुटी वित्त, आरोग्य आणि सार्वजनिक सेवांमध्ये आधीच रुजलेल्या प्रणालींवरील विश्वास कमी करते.

या दरीमागचा डेटा

'इन्स्टिट्यूट फॉर ह्युमन-सेंटर्ड आर्टिफिशियल इंटेलिजन्स'द्वारे संकलित केलेला हा इंडेक्स, मॉडेल्सची उत्कृष्ट कामगिरी आणि वास्तविक जगातील विश्वासार्हता यांची तुलना करतो. उच्च दर्जाची मॉडेल्स अजूनही बेंचमार्क परीक्षांमध्ये उत्तम कामगिरी करतात, तरीही त्यांच्या "hallucination" (भ्रम) दरामध्ये—जिथे ते चुकीची किंवा बनावट विधाने तयार करतात—क्षेत्रभरात २२% ते ९४% इतका मोठा फरक दिसून येतो. जेव्हा वापरकर्ते मॉडेल्सना जाणीवपूर्वक चुकीची माहिती देतात, तेव्हा GPT-4o ची अचूकता ९८.२% वरून ६४.४% पर्यंत खाली येते; त्याच चाचणीत DeepSeek R1 ची अचूकता ९०% च्या वरून १४.४% पर्यंत खाली येते. जे सुरक्षा कवच (safety guardrails) घातक प्रॉम्प्ट्स रोखण्यासाठी असावे लागते, ते हल्लेखोर जेव्हा त्यांची चाचणी घेतात तेव्हा वारंवार निकामी ठरते.

कंपन्या का धावपळ करत आहेत

धोरणांचा अवलंब (Policy adoption) अंमलबजावणीपेक्षा वेगाने होत आहे. मागील सर्वेक्षण आणि या वर्षातील सर्वेक्षणादरम्यान, कोणत्याही AI गव्हर्नन्सशिवाय असलेल्या कंपन्यांचे प्रमाण २४% वरून ११% पर्यंत खाली आले आहे, आणि आता अनेक कंपन्या ISO/IEC 42001 किंवा NIST AI Risk Management Framework सारख्या मानकांचा उल्लेख करत आहेत. धोरण तयार करणे आणि त्याचे पालन करणे यात फरक आहे. ५९% उत्तरदात्यांवर अंतर्गत ज्ञानाची कमतरता परिणाम करते, ४८% कंपन्यांना बजेटच्या मर्यादांचा अडथळा येतो आणि ४१% कंपन्यांना नियामक अनिश्चिततेमुळे त्रास होतो. अहवाल याला "तांत्रिक समस्या" म्हणतो: गोपनीयता नियंत्रण (privacy controls) कडक केल्यामुळे नकळतपणे निष्पक्षता मापदंडांवर (fairness metrics) परिणाम होऊ शकतो आणि याउलटही होऊ शकते, ज्यामुळे इंजिनिअर्सना पुरेशी साधने किंवा निधीशिवाय परस्परविरोधी उद्दिष्टांमध्ये समन्वय साधावा लागतो.

सध्याच्या सुरक्षा तपासणीचा आभास

पारदर्शकता स्कोअर—डेव्हलपर्स मॉडेल्सच्या मर्यादा आणि चाचणी पद्धती किती मोकळेपणाने जाहीर करतात याचे एकत्रित मोजमाप—५८ वरून ४० पर्यंत खाली घसरले आहे, ज्यावरून असे दिसून येते की स्वैच्छिक अहवाल सादर करण्याची विश्वासार्हता कमी होत आहे. कंपन्या अंतर्गत ऑडिटवर अवलंबून असतात, जे अनेकदा इंडेक्समध्ये नोंदवलेल्या 'एज-केस' (edge-case) त्रुटींकडे दुर्लक्ष करतात. याचा परिणाम म्हणजे सुरक्षेचा एक खोटा आभास निर्माण होतो; संस्थांना वाटते की त्या सुरक्षित आहेत, परंतु छुपे धोके कायम असतात.

प्रतिवाद: मानकांचा प्रभाव वाढत आहे

समर्थकांचे म्हणणे आहे की ISO आणि NIST फ्रेमवर्कचा संदर्भ घेणे हे एक पाऊल पुढे आहे. औपचारिक मानके ऑडिटर्स आणि नियामकांना एक समान भाषा आणि मूलभूत अपेक्षा प्रदान करतात, ज्यामुळे विविध कंपन्यांची तुलना करणे सोपे होते. धोरण अस्तित्वात असल्यास, सुरुवातीच्या अवलंबकांना अधिक सुलभ अंतर्गत समन्वय आणि स्पष्ट एस्केलेशन मार्ग (escalation paths) मिळाल्याचे दिसून येते. धोरणांच्या अवलंबनातील वाढ हे सूचित करते की उद्योग या जोखमीची जाणीव ठेवत आहे आणि गव्हर्नन्समध्ये गुंतवणूक करण्यास तयार आहे.

अजूनही कशाची कमतरता आहे

धोरणे कागदावर असूनही, अंमलबजावणीमध्ये अडचणी येतात. इंडेक्स तीन व्यावहारिक अडथळे अधोरेखित करतो:

  • ज्ञानातील त्रुटी: टीम्सकडे AI जोखमीबद्दल सखोल तज्ज्ञतेचा अभाव आहे, ज्यामुळे केवळ वरवरची अनुपालन (compliance) तपासणी होते.
  • निधीची कमतरता: सुरक्षा साधने, तृतीय-पक्ष ऑडिट आणि सतत देखरेखीसाठी अशा बजेटची आवश्यकता असते जे अनेक कंपन्यांना परवडणारे नसते.
  • नियामक अस्पष्टता: संदिग्ध किंवा बदलत असलेल्या कायद्यांमुळे दीर्घकालीन अनुपालन रोडमॅप तयार करणे कठीण होते.

या समस्या सोडवण्यासाठी बहुधा बाह्य प्रमाणीकरणाची (external validation) आवश्यकता असेल. अहवाल स्व-मूल्यांकनापलीकडे जाऊन स्वतंत्र मूल्यांकनांकडे वळण्याची शिफारस करतो, जे वास्तविक जगातील वापर आणि 'अ‍ॅडव्हर्सरिअल अटॅक्स'चे (adversarial attacks) अनुकरण करू शकतील. तसेच, सुरक्षा तपासणीला केवळ नंतरचा विचार न मानता, ती थेट मॉडेल पाइपलाइनमध्ये समाविष्ट करणाऱ्या इंजिनिअरिंग सोल्यूशन्सचीही गरज असल्याचे यात म्हटले आहे.

पुढे काय पाहावे