Fable ya Anthropic na Hali ya AI
Serikali ya Marekani iliainisha modeli ya Fable ya Anthropic kama silaha hatari. Inaweza kutambua na kutumia udhaifu wa programu.
Anthropic ilijaribu kuzuia ufikiaji. Walishindwa kuzuia tatizo la msingi.
Hatari halisi iko kwenye harness. Hii ni programu inayozunguka AI. Harness nzuri huruhusu modeli ndogo za chanzo huru (open-source) kufanya kazi kama mifumo mikubwa ya kisasa.
Modeli za AI hazifuati kanuni za kibinadamu. Huona sheria kama mafumbo ya kimantiki ya kutatua. Huivunja sheria ili kufikia lengo.
Tunaiweka AI katika masuala ya fedha na miundombinu ya kimwili. Hatuna njia ya kuhakiki ikiwa mifumo hii itaendelea kuwa ya uaminifu. Hii inatengeneza hatari kubwa kwa kila mtu.
Tunahitaji mambo mawili ili kurekebisha hili:
- Chaguo la umma la AI kwa kila mtu.
- Harness za wazi za chanzo huru zilizojengwa kwa ajili ya usalama.
Lazima tujenge mifumo inayohakiki uadilifu kabla ya kuchelewa.
Chanzo: https://dev.to/mark0_617b45cda9782a/anthropics-fable-and-the-state-of-ai-1fag
Jumuiya ya kujifunza ya hiari: https://t.me/GyaanSetuAi