Исследователи из MIT обнаружили, что люди, полагающиеся на ИИ-фактчекеров, стали хуже распознавать фейковые новости. В четырехнедельном эксперименте с участием 67 человек ИИ давал в основном правильные ответы, однако способность самих участников распознавать дезинформацию снизилась.

Почему это исследование важно

Инструменты для проверки фактов теперь встречаются на панели инструментов любого браузера. Обещание простое: алгоритм сообщает, является ли заголовок или изображение подлинным, позволяя вам двигаться дальше, не задумываясь. Если технология при этом разрушает тот самый навык, который она призвана заменить, чистая выгода резко сокращается. Общество, неспособное самостоятельно оценивать утверждения, становится более уязвимым для манипуляций, даже когда кажется, что основную работу выполняет машина.

Как проходил эксперимент

Исследователи показывали участникам смесь подлинных и сфабрикованных новостей. Система ИИ — достаточно точная, чтобы в большинстве случаев давать правильные ответы — выносила бинарный вердикт по каждому материалу. Ученые отслеживали две вещи: точность ИИ и собственные суждения участников, когда к ИИ не обращались.

Ответы ИИ были уверенными, но они не сопровождались объяснением того, как именно система пришла к такому выводу. В течение нескольких недель участники, которые регулярно принимали ответы ИИ, перестали использовать свои собственные критические способности.

Что означают результаты

  • Атрофия навыков: Подобно тому, как GPS может притупить чувство направления у водителя, ИИ, предлагающий мгновенные ответы, может ослабить аналитические способности пользователя.
  • Снижение умственных усилий: Удобство «быстрых ответов» препятствует глубоким рассуждениям, которые формируют устойчивость к дезинформации.
  • Риск чрезмерной зависимости: Если многие люди перейдут на такую привычку, коллективная способность распознавать ложь может снизиться, что сделает общество более податливым к искусственно созданным нарративам.

Контраргумент, который стоит учесть

Использовавшийся в исследовании ИИ был точен, и многие скажут, что правильный ответ лучше, чем догадка. Исследователи не утверждают, что ИИ бесполезен; они предостерегают от некритичного доверия.

Как сохранять остроту суждений

Исследователи советуют относиться к ИИ как к спарринг-партнеру, а не как к судье. Вместо того чтобы безоговорочно принимать ответ, попросите систему:

  • Показать ход рассуждений шаг за шагом.
  • Привести аргументы в пользу противоположной точки зрения.
  • Определить условия, при которых её ответ будет неверным.

Простая привычка — прежде чем довериться ИИ, сделать паузу и спросить: «Что могло бы сделать этот ответ ложным?» — заставляет мозг оставаться вовлеченным. Усилия могут быть незначительными, но они сохраняют навык независимой проверки.

На что обратить внимание в будущем

Вывод очевиден: ИИ может помочь вам распознать дезинформацию, но только если вы оставите критическое мышление за рулем.