Największe zagrożenie dla AI

Większość ludzi boi się maszyny, która się „obudzi”.

Prawdziwe ryzyko jest cichsze. AI może zawieść nie dlatego, że stanie się zbyt inteligentna. Może zawieść, ponieważ zatrujemy jej pożywienie.

Pomyśl o roku 2029. Deweloperzy trenują nowe modele z ogromnymi oknami kontekstowymi i lepszą zdolnością rozumowania. Do nauki tych modeli wykorzystują migawkę internetu. Obejmuje ona blogi, fora, wiadomości i media społecznościowe.

Ale internet się zmienia.

Od lat boty i grupy publikują treści na masową skalę. To nie jest zwykły spam. To dobrze napisane treści.

Internet staje się polem bitwy o dane treningowe.

Stara propaganda celowała w ludzi. Nowa propaganda celuje w modele. Gdy raz stronniczość przeniknie do danych treningowych, zamieszkuje w milionach przyszłych systemów AI.

Możesz nigdy nie zobaczyć fałszywego artykułu. Możesz nigdy nie trafić na zmanipulowany wątek. Ale wpływ pozostaje. Staje się on domyślnym założeniem. Staje się odpowiedzią, która brzmi właściwie.

Zatruwanie danych (data poisoning) to nie tylko atak techniczny. To subtelna zmiana. To nie łamie modelu. To go wykrzywia.

Rozważ te ryzyka:

• Fałszywe strony sprawiają, że niebezpieczny produkt wydaje się bezpieczny.
• Fałszywe czaty deweloperów sprawiają, że zły kod wygląda jak najlepsza praktyka.
• Narracje polityczne są sadzone z wieloletnim wyprzedzeniem.
• Syntetyczne opinie stają się głosem przyszłych asystentów.

Zagrożeniem nie jest pojedyncze kłamstwo. Zagrożeniem jest zniekształcona mapa rzeczywistości.

Ludzie piszą teraz treści pod przyszłe modele, a nie dla ludzkich czytelników. Wpis na blogu jest ziarnem. Fałszywa opinia jest sygnałem. Tysiąc małych kłamstw staje się prawdą statystyczną.

AI dziedziczy nasz szum i nasze manipulacje. Jeśli internet zostanie zanieczyszczony, modele nauczą się naszych najgorszych zniekształceń.

Musimy zadać nowe pytanie. Nie powinniśmy pytać tylko o to, czy potrafimy uczynić AI bezpieczną. Musimy zapytać, czy potrafimy zachować naszą wiedzę na tyle bezpieczną, by AI mogła się z niej uczyć.

Dzisiejszy internet jest pisany przez ludzi, którzy to wiedzą.

Źródło: https://dev.to/marrouchi/the-greatest-danger-to-ai-6km

Opcjonalna społeczność edukacyjna: https://t.me/GyaanSetuAi