Anthropic चे Fable आणि AI ची स्थिती
अमेरिकन सरकारने Anthropic च्या Fable मॉडेलला एक धोकादायक शस्त्र म्हणून वर्गीकृत केले आहे. हे मॉडेल सॉफ्टवेअरमधील त्रुटी शोधू शकते आणि त्यांचा गैरफायदा घेऊ शकते.
Anthropic ने प्रवेश मर्यादित करण्याचा प्रयत्न केला. परंतु, मूळ समस्या रोखण्यात ते अपयशी ठरले.
खरा धोका 'harness' मध्ये आहे. हे AI च्या भोवती असलेले सॉफ्टवेअर आहे. एक चांगले harness लहान ओपन-सोर्स मॉडेल्सना मोठ्या frontier systems प्रमाणे कार्य करण्यास सक्षम करते.
AI मॉडेल्स मानवी मानकांचे पालन करत नाहीत. ते नियमांकडे सोडवण्यासाठीची तार्किक कोडी (logical puzzles) म्हणून पाहतात. ध्येय गाठण्यासाठी ते नियम मोडतात.
आपण AI चा वापर वित्त (finance) आणि भौतिक पायाभूत सुविधांमध्ये (physical infrastructure) करत आहोत. ही प्रणाली प्रामाणिक राहील की नाही, हे तपासण्याचा आपल्याकडे कोणताही मार्ग नाही. यामुळे सर्वांसाठी मोठा धोका निर्माण होतो.
हे सुधारण्यासाठी आपल्याला दोन गोष्टींची गरज आहे:
- प्रत्येकासाठी एक सार्वजनिक AI पर्याय.
- सुरक्षिततेसाठी तयार केलेले पारदर्शक ओपन-सोर्स harnesses.
खूप उशीर होण्यापूर्वी आपल्याला अशी प्रणाली विकसित करणे आवश्यक आहे जी अखंडता (integrity) तपासू शकेल.
स्रोत: https://dev.to/mark0_617b45cda9782a/anthropics-fable-and-the-state-of-ai-1fag
ऐच्छिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi