Дослідники з MIT виявили, що люди, які покладалися на ШІ-фактчекерів, стали гірше розпізнавати фейкові новини. У чотирьохтижневому експерименті за участю 67 учасників ШІ надавав переважно правильні відповіді, проте здатність самих учасників оцінювати дезінформацію знизилася.

Чому це дослідження важливе

Інструменти перевірки фактів тепер з'являються на панелях інструментів кожного браузера. Обіцянка проста: алгоритм повідомляє вам, чи є заголовок або зображення справжнім, дозволяючи рухатися далі без зайвих роздумів. Якщо технологія водночас руйнує саме навичку, яку вона має замінити, чиста вигода різко зменшується. Суспільство, яке не може самостійно оцінювати твердження, стає більш вразливим до маніпуляцій, навіть коли машина, здається, бере на себе всю важку роботу.

Як проходив експеримент

Дослідники показували учасникам суміш справжніх і сфабрикованих новин. Система ШІ — достатньо точна, щоб більшість часу відповідати правильно — надавала бінарний вердикт для кожного матеріалу. Вони відстежували дві речі: точність ШІ та власні судження учасників, коли до ШІ не зверталися.

Відповіді ШІ були впевненими, але вони надавалися без жодних пояснень того, як саме система дійшла свого висновку. Протягом тижнів учасники, які регулярно приймали відповідь ШІ, перестали використовувати власні критичні здібності.

Що означають результати

  • Атрофія навичок: Подібно до того, як GPS може притупити відчуття напрямку у водія, ШІ, що пропонує миттєві відповіді, може послабити аналітичну здатність користувача.
  • Зменшення розумових зусиль: Зручність «швидких відповідей» відбиває бажання заглиблюватися в роздуми, які формують стійкість до дезінформації.
  • Ризик надмірної довіри: Якщо багато людей перейдуть на таку звичку, колективна здатність виявляти неправду може знизитися, що полегшить маніпулювання суспільством за допомогою вигаданих наративів.

Контраргумент, який варто врахувати

ШІ, використаний у дослідженні, був точним, і багато хто стверджуватиме, що правильна відповідь краща за здогадку. Дослідники не стверджують, що ШІ марний; вони застерігають від некритичної довіри.

Як зберегти гостроту власного судження

Дослідники пропонують ставитися до ШІ як до спаринг-партнера, а не як до судді. Замість того, щоб одразу приймати відповідь, попросіть систему:

  • Покроково продемонструвати свої міркування.
  • Навести аргументи проти наведеного твердження.
  • Визначити умови, за яких її відповідь була б помилковою.

Проста звичка — перед тим як довіритися ШІ, зупинитися і запитати: «Що могло б зробити цю відповідь хибною?» — змушує мозок залишатися залученим. Зусилля можуть бути незначними, але вони зберігають навичку самостійної перевірки.

На що звернути увагу далі

Висновок очевидний: ШІ може допомогти вам виявити дезінформацію, але лише якщо ви залишаєтеся за кермом власного критичного мислення.