KI-Antworten kritisch prüfen: Fünf Denkfallen im Alltag

Bestätigungsfehler bedeutet, dass wir Informationen bevorzugen, die zu einer vorhandenen Überzeugung passen. Die APA definiert diese Tendenz entsprechend. Im Chat beginnt sie oft schon mit der Frage: „Warum ist meine Idee besser als die Alternative?“ legt die erwünschte Richtung fest.

Stell dir vor, du planst eine sehr dunkle Website. Du fragst nach Gründen, warum ein dunkles Design hochwertiger wirkt. Die Antwort liefert eine plausible Liste. Damit weißt du noch nicht, ob die konkrete Seite gut lesbar ist oder für ihre Besucher funktioniert. Du hast vor allem Argumente für eine bereits gewählte Richtung gesammelt.

Formuliere eine offene Prüfung: Welche Aufgaben müssen Besucher erledigen? Unter welchen Bedingungen könnte das Design scheitern? Frage anschließend gezielt nach Gegenargumenten. Anthropics Forschung zu Sycophancy zeigt, dass untersuchte Sprachmodelle Nutzeransichten mitunter gegenüber wahrheitsgemäßen Antworten bevorzugten. Das ist ein weiterer Grund, Zustimmung nicht mit Belegen gleichzusetzen.

Automatisierungsbias beschreibt übermäßiges Vertrauen in ein automatisiertes System. Der NIST-Leitfaden zu generativer KI nennt dieses Übervertrauen zusammen mit Risiken wie erfundenen, aber überzeugend dargestellten Inhalten. Eine gut formatierte Antwort kann eine Prüfung deshalb gerade dann verdrängen, wenn sie besonders bequem wirkt.

Ein alltägliches Beispiel ist eine technische Anleitung. Die KI nennt einen Menüpunkt, den es in deiner Version nicht gibt. Weil die Schritte geordnet aussehen, suchst du weiter oder veränderst andere Einstellungen. Eine kurze Kontrolle der offiziellen Anleitung wäre an diesem Punkt hilfreicher gewesen.

Lege vorab fest, welche Aussagen du übernehmen darfst und welche du überprüfen musst. Eine Liste möglicher Bildideen braucht einen anderen Prüfaufwand als eine konkrete Aussage über Datenspeicherung oder eine kostenpflichtige Buchung. Je schwerer die Folgen rückgängig zu machen sind, desto stärker sollte die unabhängige Kontrolle sein.

Beim Ankereffekt beeinflusst eine früh präsentierte Information spätere Einschätzungen. Die APA beschreibt diesen Effekt auch für Zahlen. In einer KI-Antwort kann etwa die erste Aufwandsschätzung zum Bezugspunkt werden, obwohl ihre Voraussetzungen unklar bleiben.

Angenommen, ein Chat schätzt für eine Bildserie „zwei Stunden“. Du bewertest danach jede längere Planung als ineffizient. Vielleicht fehlen in der Schätzung aber Auswahl, Korrekturen, Export und Abstimmung. Die Zahl ist ohne diese Annahmen kaum aussagekräftig.

Bitte zuerst um die Bestandteile einer Schätzung. Formuliere eigene Kriterien, bevor du eine fertige Bewertung liest. Für kreative Arbeit könnten das die Zahl der Motive, die verlangte Konsistenz und die Ausgabeformate sein. Eine Spanne mit offen gelegten Annahmen ist leichter zu prüfen als eine scheinbar exakte Einzelzahl.

Ein Text mit klaren Überschriften und präzisen Fachbegriffen wirkt kompetent. Daraus lässt sich seine sachliche Qualität nicht ablesen. Die hier gemeinte Denkfalle ist eine praktische Verwechslung: Wir beurteilen die Form und übernehmen dieses Urteil für den Inhalt.

Eine Antwort kann eine Studie mit Titel, Jahreszahl und mehreren Dezimalstellen nennen. Diese Details sind erst dann Belege, wenn die Quelle existiert und die Aussage tatsächlich trägt. Öffne den Link, prüfe Autor und Datum und suche die relevante Passage. Ein Titel allein reicht nicht.

Trenne beim Lesen drei Ebenen: belegte Tatsachen, nachvollziehbare Schlussfolgerungen und Empfehlungen. Eine Quelle kann den ersten Teil unterstützen, ohne daraus die vorgeschlagene Handlung zu rechtfertigen. Frage bei einer Schlussfolgerung, welche zusätzlichen Annahmen nötig sind. So wird aus einem elegant klingenden Absatz eine prüfbare Argumentation.

Wiederholte Aussagen können wahrer erscheinen, weil sie vertrauter werden. Fazio und Kolleginnen beziehungsweise Kollegen untersuchten diesen sogenannten Illusory-Truth-Effekt; die Originalstudie ist über PubMed nachgewiesen. Wiederholung ist deshalb kein unabhängiger Wahrheitsnachweis.

Wenn du dieselbe Frage dreimal stellst und ähnliche Antworten erhältst, können dahinter dieselben verbreiteten Behauptungen stehen. Auch verschiedene Modelle oder Webseiten können eine gemeinsame Quelle wiederholen. Übereinstimmung ist ein Anlass zum Prüfen, kein Ersatz dafür.

Suche die früheste oder maßgebliche Quelle: Herstellerdokumentation für ein Werkzeug, Originaldaten für eine Zahl und die eigentliche Studie für ein Forschungsergebnis. Frage außerdem, welcher Befund gegen die Behauptung sprechen würde. Eine gute Prüfung kann zu Zustimmung führen, zu einer Einschränkung oder zu einem vorläufigen „nicht geklärt“.

Du musst nicht jeden kreativen Vorschlag wie eine Forschungsarbeit prüfen. Konzentriere dich auf die wenigen Aussagen, von denen eine Entscheidung abhängt. Markiere sie, suche ihre Quellen und kontrolliere, ob Datum und Anwendungsbereich passen.

Schreibe bei offenen Punkten kurz auf, was fehlt. „Ich kenne die Softwareversion nicht“ ist eine konkrete Lücke. „Die KI könnte falsch liegen“ führt allein noch zu keiner Prüfung. Je genauer du die Unsicherheit benennst, desto leichter findest du den nächsten sinnvollen Schritt.

Die fünf Denkfallen sind keine Diagnose und keine vollständige Liste. Sie beschreiben typische Stellen, an denen du dein Urteil verlangsamen kannst. Das Ziel ist eine Antwort, die du begründet verwenden kannst – einschließlich ihrer Grenzen.

1. Die tragende Aussage finden

   Welcher konkrete Satz bestimmt deine Entscheidung?

2. Die Quelle öffnen

   Belegt die Quelle genau diesen Satz, und gilt sie für deinen Fall?

3. Eine Gegenprüfung machen

   Welche Alternative oder Beobachtung könnte die Schlussfolgerung verändern?