Chatbots za AI Zinachochea Ukataa wa Holocaust

UNESCO na Umoja wa Mataifa yametoa onyo. Generative AI inasaidia watu kueneza ukataa wa Holocaust na historia ya uongo.

Watu wenye nia mbaya wanatumia AI kutengeneza kiasi kikubwa cha maudhui ya uongo. Wanaitumia kutengeneza ushahidi wa uongo wa mashahidi na picha za kihistoria zilizohaririwa.

Sheria za usalama za sasa mara nyingi hushindwa. Watumiaji wanapata njia za kukwepa vichujio kupitia maelekezo (prompts) rahisi. Hawaiombi ukataa huo moja kwa moja. Badala yake, wanaiomba AI kuandika hadithi za kubuni zinazotiia shaka ukweli wa kihistoria.

Ripoti hiyo inaangazia hatari kadhaa kuu:

  • Mifumo ya AI hutabiri maneno kulingana na data ya mafunzo. Ikiwa data hiyo inajumuisha nadharia za njama, AI huzalisha madai ya uongo.
  • Skripti za kiotomatiki huzalisha maelfu ya makala za uongo kwa wakati mmoja.
  • "Soft denial" (ukataa mwororo) hutumia lugha isiyo na upande ili kupunguza ukubwa wa mauaji ya kimbari. Hii ni vigumu kwa mashine kuigundua.
  • Deepfakes hutumia sauti na video zilizokatwa (cloned) ili kufanya uongo uonekane wa kweli.
  • Vifaa vya kutengeneza picha (image generators) hutengeneza picha zinazofanana na halisi za matukio ambayo hayakuwahi kutokea.

Mapengo ya lugha pia yapo. Sheria za usalama mara nyingi ni imara katika Kiingereza lakini ni dhaifu katika lugha kama Kiarabu, Kifaransa, au Kijerumani. Hii inaruhusu habari za uongo kuenea duniani kote.

UNESCO inataka makampuni ya teknolojia kuchukua uwajibikaji zaidi. Wanapendekeza makampuni yanapaswa kuwajibika kwa matokeo yanayopingana na ukweli wa kihistoria uliothibitishwa.

Baadhi ya makampuni hutumia mifumo maalum kukagua ukweli dhidi ya kumbukumbu rasmi. Hata hivyo, hii bado si taratibu ya kawaida.

Tunahitaji uelewa bora wa kidijitali. Lazima uelewe jinsi mifumo ya AI inavyofanya kazi na jinsi inavyounda habari.

Chanzo: https://dev.to/autonainews/unesco-warns-ai-chatbots-are-fueling-online-holocaust-denial-4a7e

Jumuiya ya kujifunzia ya hiari: https://t.me/GyaanSetuAi