Найбільша небезпека для ШІ

Більшість людей бояться машини, яка прокинеться.

Справжній ризик тихіший. ШІ може зазнати невдачі не тому, що стане занадто розумним. Він може зазнати невдачі тому, що ми отруїмо його їжу.

Уявіть 2029 рік. Розробники навчають нові моделі з величезними вікнами контексту та кращими здібностями до міркування. Для навчання цих моделей вони використовують знімок інтернету. Це включає блоги, форуми, новини та соціальні мережі.

Але інтернет змінюється.

Протягом багатьох років боти та групи публікують контент у масштабах усього світу. Це не просто спам. Це якісно написаний контент.

Інтернет стає полем битви за дані для навчання.

Стара пропаганда була спрямована на людей. Нова пропаганда спрямована на моделі. Як тільки у навчальних даних з'являється упередженість, вона залишається всередині мільйонів майбутніх систем ШІ.

Ви можете ніколи не побачити фейкову статтю. Ви можете ніколи не знайти маніпулятивну гілку обговорення. Але вплив залишається. Він стає припущенням за замовчуванням. Він стає відповіддю, яка звучить правильно.

Отруєння даних — це не просто технічна атака. Це тонкий зсув. Він не ламає модель. Він її викривляє.

Розгляньте такі ризики:

  • Фейкові сторінки змушують небезпечний продукт виглядати безпечним.
  • Фейкові чати розробників змушують поганий код виглядати як найкраща практика.
  • Політичні наративи закладаються за роки до подій.
  • Синтетичні думки стають голосом майбутніх асистентів.

Небезпека не в одній брехні. Небезпека — у викривленій карті реальності.

Зараз люди пишуть контент для майбутніх моделей, а не для читачів-людей. Пост у блозі — це зерно. Фейковий відгук — це сигнал. Тисяча маленьких брехень стає статистичною істиною.

ШІ успадковує наш шум і наші маніпуляції. Якщо інтернет буде забруднений, моделі засвоять наші найгірші викривлення.

Ми маємо поставити нове запитання. Ми повинні питати не лише про те, чи можемо ми зробити ШІ безпечним. Ми повинні запитати, чи можемо ми зберегти наші знання достатньо чистими, щоб ШІ міг на них навчатися.

Сьогоднішній інтернет пишуть люди, які це знають.

Джерело: https://dev.to/marrouchi/the-greatest-danger-to-ai-6km

Додаткова спільнота для навчання: https://t.me/GyaanSetuAi