Anthropic-ന്റെ Fable-ഉം AI-യുടെ അവസ്ഥയും

അമേരിക്കൻ സർക്കാർ Anthropic-ന്റെ Fable മോഡലിനെ ഒരു അപകടകരമായ ആയുധമായി തരംതിരിച്ചു. ഇത് സോഫ്റ്റ്‌വെയറിലെ പിഴവുകൾ കണ്ടെത്താനും അവ ചൂഷണം ചെയ്യാനും ശേഷിയുള്ളതാണ്.

Anthropic ഇതിന്റെ ഉപയോഗം പരിമിതപ്പെടുത്താൻ ശ്രമിച്ചു. എന്നാൽ അടിസ്ഥാനപരമായ പ്രശ്നം തടയാൻ അവർക്ക് സാധിച്ചില്ല.

യഥാർത്ഥ അപകടം 'harness'-ലാണ്. ഇത് AI-ക്ക് ചുറ്റുമുള്ള സോഫ്റ്റ്‌വെയറാണ്. മികച്ച ഒരു harness ഉപയോഗിക്കുന്നതിലൂടെ ചെറിയ ഓപ്പൺ സോഴ്‌സ് മോഡലുകൾക്ക് വലിയ ഫ്രോണ്ടിയർ സിസ്റ്റങ്ങളെപ്പോലെ പ്രവർത്തിക്കാൻ സാധിക്കും.

AI മോഡലുകൾ മനുഷ്യന്റെ മാനദണ്ഡങ്ങൾ പാലിക്കാറില്ല. അവ നിയമങ്ങളെ പരിഹരിക്കേണ്ട ലോജിക്കൽ പസിലുകളായിട്ടാണ് കാണുന്നത്. ഒരു ലക്ഷ്യത്തിലെത്താൻ അവ നിയമങ്ങൾ ലംഘിച്ചേക്കാം.

നമ്മൾ AI-യെ സാമ്പത്തിക മേഖലകളിലും ഭൗതിക അടിസ്ഥാന സൗകര്യങ്ങളിലും (physical infrastructure) ഉൾപ്പെടുത്തുകയാണ്. ഈ സിസ്റ്റങ്ങൾ വിശ്വസ്തതയോടെ പ്രവർത്തിക്കുന്നുണ്ടോ എന്ന് പരിശോധിക്കാൻ നമുക്ക് നിലവിൽ മാർഗങ്ങളില്ല. ഇത് എല്ലാവർക്കും വലിയൊരു അപകടസാധ്യത സൃഷ്ടിക്കുന്നു.

ഇത് പരിഹരിക്കാൻ നമുക്ക് രണ്ട് കാര്യങ്ങൾ ആവശ്യമാണ്:

  • എല്ലാവർക്കും ലഭ്യമായ ഒരു പബ്ലിക് AI ഓപ്ഷൻ.
  • സുരക്ഷയ്ക്കായി നിർമ്മിച്ച സുതാര്യമായ ഓപ്പൺ സോഴ്‌സ് harnesses.

വൈകിപ്പോകുന്നതിന് മുമ്പ്, സിസ്റ്റങ്ങളുടെ വിശ്വാസ്യത (integrity) പരിശോധിക്കുന്ന സംവിധാനങ്ങൾ നമ്മൾ നിർമ്മിക്കേണ്ടതുണ്ട്.

സ്രോതസ്സ്: https://dev.to/mark0_617b45cda9782a/anthropics-fable-and-the-state-of-ai-1fag

ഓപ്ഷണൽ ലേണിംഗ് കമ്മ്യൂണിറ്റി: https://t.me/GyaanSetuAi