AI-ക്ക് നേരിടേണ്ടി വരുന്ന ഏറ്റവും വലിയ അപകടം

ഭൂരിഭാഗം ആളുകളും ഉണർന്നു പ്രവർത്തിക്കുന്ന ഒരു യന്ത്രത്തെയാണ് ഭയപ്പെടുന്നത്.

യഥാർത്ഥ അപകടം അതിനേക്കാൾ നിശബ്ദമാണ്.

AI പരാജയപ്പെടുന്നത് അത് അമിതമായി ബുദ്ധിമാനാകുന്നത് കൊണ്ടല്ലായിരിക്കാം. മറിച്ച്, അത് പഠിക്കുന്ന ഡാറ്റ നമ്മൾ വിഷലിപ്തമാക്കുന്നത് (poison) കൊണ്ടായിരിക്കാം.

2029-ഓടെ, മോഡലുകൾ കൂടുതൽ വലുതാകും. അവയ്ക്ക് മികച്ച യുക്തിചിന്തയും (reasoning) കൂടുതൽ ഏജന്റുകളും ഉണ്ടാകും. കമ്പനികൾ അവയെ കൂടുതൽ വിശ്വസിക്കും.

ഈ മോഡലുകൾ ഇന്റർനെറ്റിൽ നിന്നാണ് പരിശീലനം നേടുന്നത്. അവ ബ്ലോഗുകൾ, ഫോറങ്ങൾ, സോഷ്യൽ മീഡിയ, ഗവേഷണ പ്രബന്ധങ്ങൾ എന്നിവ വായിക്കുന്നു.

എന്നാൽ ഇന്റർനെറ്റ് മാറിക്കൊണ്ടിരിക്കുകയാണ്.

ബോട്ടുകളും കമ്പനികളും രാഷ്ട്രീയ ഗ്രൂപ്പുകളും ഇപ്പോൾ വൻതോതിൽ ഉള്ളടക്കം പ്രസിദ്ധീകരിക്കുന്നുണ്ട്. അവർ വെറും സ്പാം (spam) മാത്രമല്ല ഇടുന്നത്; മറിച്ച് നന്നായി എഴുതിയതും വിശ്വസനീയവുമായ ഉള്ളടക്കമാണ് അവർ പങ്കുവെക്കുന്നത്.

ട്രെയിനിംഗ് ഡാറ്റാസെറ്റുകൾക്കായുള്ള ഒരു യുദ്ധക്കളമായി ഇന്റർനെറ്റ് മാറിക്കൊണ്ടിരിക്കുകയാണ്.

പരമ്പരാഗത പ്രചരണങ്ങൾ (propaganda) ആളുകളെയാണ് ലക്ഷ്യം വെക്കുന്നത്. എന്നാൽ AI ലോകത്ത്, ലക്ഷ്യം മോഡൽ തന്നെയാണ്.

ഒരു നുണയോ പക്ഷപാതമോ ട്രെയിനിംഗ് ഡാറ്റയിൽ കടന്നുകൂടിയാൽ, അത് AI-യുടെ ഭാഗമായി മാറുന്നു. അത് വെറുമൊരു ഉദ്ധരണിയായി അവശേഷിക്കില്ല; മറിച്ച് ഒരു അടിസ്ഥാന അനുമാനമായി (default assumption) മാറുന്നു. ശരിയാണെന്ന് തോന്നുന്ന ഉത്തരമായി അത് മാറുന്നു.

ഇതൊരു സാങ്കേതിക ആക്രമണം മാത്രമല്ല, മറിച്ച് സൂക്ഷ്മമായ ഒരു മാറ്റമാണ്.

മോഡലിനെ തകർക്കുക എന്നതല്ല ലക്ഷ്യം, മറിച്ച് അതിനെ വളച്ചൊടിക്കുക എന്നതാണ്.

ഈ അപകടസാധ്യതകൾ പരിഗണിക്കുക:

• ആയിരക്കണക്കിന് വ്യാജ പേജുകൾ ഒരു ഉൽപ്പന്നം സുരക്ഷിതമാണെന്ന് തോന്നിപ്പിക്കുന്നു.
• വ്യാജ ഡെവലപ്പർ ചാറ്റുകൾ സുരക്ഷിതമല്ലാത്ത കോഡിനെ മികച്ച രീതിയായി (best practice) തോന്നിപ്പിക്കുന്നു.
• തിരഞ്ഞെടുപ്പിന് വർഷങ്ങൾക്ക് മുമ്പ് തന്നെ രാഷ്ട്രീയ കഥകൾ പ്രചരിപ്പിക്കപ്പെടുന്നു.
• കൃത്രിമമായ അഭിപ്രായങ്ങൾ ഭാവിയിലെ അസിസ്റ്റന്റുകളുടെ ശബ്ദമായി മാറുന്നു.

അപകടം ഒരു നുണയല്ല. അപകടം യാഥാർത്ഥ്യത്തിന്റെ വികലമായ ഒരു രൂപമാണ്.

ആശയവിനിമയത്തിനും വാണിജ്യത്തിനുമായാണ് ഇന്റർനെറ്റ് നിർമ്മിക്കപ്പെട്ടത്. ഒരു ശുദ്ധമായ ഡാറ്റാസെറ്റ് ആകാനല്ല.

ആളുകൾ ഇപ്പോൾ മനുഷ്യരായ വായനക്കാർക്ക് വേണ്ടിയല്ല, മറിച്ച് ഭാവിയിലെ മോഡലുകൾക്ക് വേണ്ടിയാണ് എഴുതുന്നത്.

• ഒരു ബ്ലോഗ് പോസ്റ്റ് ഒരു വിത്തായി മാറുന്നു.
• ഒരു വ്യാജ റിവ്യൂ ഒരു ട്രെയിനിംഗ് സിഗ്നലായി മാറുന്നു.
• ഒരു സാങ്കേതിക ലേഖനം ഒരു പെരുമാറ്റ നിർദ്ദേശമായി മാറുന്നു.

ആയിരം ചെറിയ നുണകൾ ഒരു സ്ഥിതിവിവരക്കണക്ക് സത്യമായി (statistical truth) മാറുന്നു.

നമ്മുടെ രേഖകളും, ബഹളങ്ങളും, കൃത്രിമത്വങ്ങളും AI ഏറ്റെടുക്കുന്നു. ഇന്റർനെറ്റ് മലിനമായി തുടരുകയാണെങ്കിൽ, മോഡലുകൾ നമ്മുടെ വികലതകളിൽ നിന്നായിരിക്കും പഠിക്കുന്നത്.

ചോദ്യം "എങ്ങനെ നമുക്ക് AI സുരക്ഷിതമാക്കാം?" എന്നത് മാത്രമല്ല.

യഥാർത്ഥ ചോദ്യം "AI പഠിക്കുന്നതിനായി നമ്മുടെ അറിവിനെ എങ്ങനെ സുരക്ഷിതമായി നിലനിർത്താം?" എന്നതാണ്.

നാളത്തെ മോഡലുകൾ പഠിക്കുന്നത് ഇന്നത്തെ ഇന്റർനെറ്റിൽ നിന്നാണ്. ആളുകൾ ഇപ്പോൾ തന്നെ ആ മോഡലുകൾക്കായി എഴുതിത്തുടങ്ങിയിരിക്കുന്നു.

Source: https://dev.to/marrouchi/the-greatest-danger-to-ai-6km