MIT-Forscher fanden heraus, dass Menschen, die sich auf KI-Faktenchecker verließen, schlechter darin wurden, Fake News zu erkennen. In einem vierwöchigen Experiment mit 67 Teilnehmern lieferte die KI meist korrekte Antworten, doch die Fähigkeit derselben Teilnehmer, Fehlinformationen zu beurteilen, nahm ab.

Warum die Studie wichtig ist

Faktencheck-Tools erscheinen mittlerweile in jeder Browser-Symbolleiste. Das Versprechen ist simpel: Ein Algorithmus teilt Ihnen mit, ob eine Schlagzeile oder ein Bild echt ist, sodass Sie ohne weiteres Nachdenken weitermachen können. Wenn die Technologie jedoch genau die Fähigkeit untergräbt, die sie eigentlich ersetzen soll, schrumpft der Gesamtnutzen drastisch. Eine Gesellschaft, die Behauptungen nicht mehr unabhängig bewerten kann, wird anfälliger für Manipulation – selbst wenn eine Maschine die Schwerstarbeit zu leisten scheint.

Ablauf des Experiments

Die Forscher zeigten den Teilnehmern eine Mischung aus echten und gefälschten Nachrichtenmeldungen. Ein KI-System – das meist korrekt antwortete – lieferte für jedes Element ein binäres Urteil. Dabei wurden zwei Dinge verfolgt: die Korrektheit der KI und die eigenen Urteile der Teilnehmer, wenn die KI nicht konsultiert wurde.

Die Antworten der KI waren sicher, aber sie erfolgten ohne jegliche Erklärung, wie das System zu seinem Schluss gekommen war. Im Laufe der Wochen hörten Teilnehmer, die regelmäßig die Antwort der KI akzeptierten, auf, ihre eigenen kritischen Denkfähigkeiten einzusetzen.

Was die Ergebnisse bedeuten

  • Fähigkeitsverlust (Skill Atrophy): Genau wie ein GPS das Orientierungsvermögen eines Fahrers schwächen kann, kann eine KI, die sofortige Antworten liefert, den „analytischen Muskel“ eines Nutzers abstumpfen lassen.
  • Verringerte geistige Anstrengung: Der Komfort von „Schnellantworten“ entmutigt das tiefere Nachdenken, das die Widerstandsfähigkeit gegen Fehlinformationen stärkt.
  • Potenzial für Übervertrauen: Wenn viele Menschen dieselbe Gewohnheit entwickeln, könnte die kollektive Fähigkeit, Unwahrheiten zu erkennen, sinken, was die Gesellschaft anfälliger für gezielt konstruierte Narrative macht.

Ein wichtiger Gegenpunkt

Die in der Studie verwendete KI war präzise, und viele würden argumentieren, dass eine korrekte Antwort besser ist als eine bloße Vermutung. Die Forscher behaupten nicht, dass KI nutzlos sei; sie warnen vor unkritischem Vertrauen.

So halten Sie Ihr Urteilsvermögen scharf

Forscher schlagen vor, die KI eher als Sparringspartner denn als Richter zu betrachten. Anstatt die Antwort einfach ungeprüft zu akzeptieren, sollten Sie das System bitten:

  • Seine Argumentation Schritt für Schritt darzulegen.
  • Die Gegenseite der Behauptung zu vertreten.
  • Bedingungen zu identifizieren, die seine Antwort falsch machen würden.

Eine einfache Gewohnheit – bevor man einer KI vertraut, kurz innehalten und fragen: „Was würde diese Antwort falsch machen?“ – zwingt das Gehirn, aktiv zu bleiben. Der Aufwand mag gering sein, aber er bewahrt die Fähigkeit zur unabhängigen Überprüfung.

Worauf man künftig achten sollte

Das Fazit ist klar: KI kann Ihnen helfen, Fehlinformationen zu erkennen, aber nur, wenn Sie Ihr eigenes kritisches Denken am Steuer behalten.