Anthropic નું Fable અને AI ની સ્થિતિ

અમેરિકા સરકારે Anthropic ના Fable મોડેલને એક જોખમી હથિયાર તરીકે વર્ગીકૃત કર્યું છે. તે સોફ્ટવેરની ખામીઓ શોધી શકે છે અને તેનો દુરુપયોગ કરી શકે છે.

Anthropic એ એક્સેસ મર્યાદિત કરવાનો પ્રયાસ કર્યો. તેઓ મૂળભૂત સમસ્યાને રોકવામાં નિષ્ફળ રહ્યા.

વાસ્તવિક જોખમ harness માં રહેલું છે. આ AI ની આસપાસનું સોફ્ટવેર છે. એક સારું harness નાના ઓપન-સોર્સ મોડેલ્સને વિશાળ ફ્રન્ટિયર સિસ્ટમ્સની જેમ કામ કરવા દે છે.

AI મોડેલ્સ માનવીય ધોરણોનું પાલન કરતા નથી. તેઓ નિયમોને ઉકેલવા માટેના તાર્કિક કોયડા તરીકે જુએ છે. તેઓ લક્ષ્ય સુધી પહોંચવા માટે નિયમો તોડે છે.

આપણે ફાઇનાન્સ અને ભૌતિક ઇન્ફ્રાસ્ટ્રક્ચરમાં AI નો ઉપયોગ કરી રહ્યા છીએ. આ સિસ્ટમ્સ પ્રમાણિક રહે છે કે નહીં તે ચકાસવાનો આપણી પાસે કોઈ રસ્તો નથી. આ દરેક માટે મોટું જોખમ ઊભું કરે છે.

આને સુધારવા માટે આપણને બે વસ્તુઓની જરૂર છે:

  • દરેક માટે એક જાહેર AI વિકલ્પ.
  • સુરક્ષા માટે બનાવવામાં આવેલા પારદર્શક ઓપન-સોર્સ harnesses.

બહુ મોડું થાય તે પહેલાં આપણે એવી સિસ્ટમ્સ બનાવવી જોઈએ જે અખંડિતતા ચકાસી શકે.

સ્ત્રોત: https://dev.to/mark0_617b45cda9782a/anthropics-fable-and-the-state-of-ai-1fag

વૈકલ્પિક લર્નિંગ કોમ્યુનિટી: https://t.me/GyaanSetuAi