KI-Ratgeber für Alltag, Job & Business · Stand: 21. November 2026Mit KI-Unterstützung erstellt – so arbeiten wir →

Grundlagen

KI-Halluzinationen erkennen: So prüfst du Antworten von ChatGPT & Co.

KI erfindet manchmal Fakten und Quellen. Mit Prüf-Ampel, 5-Schritte-Routine und drei Prompts erkennst du Halluzinationen, bevor Kunden sie sehen.

Titelbild: KI-Halluzinationen erkennen: So prüfst du Antworten von ChatGPT & Co.

Kurz gesagt: Eine KI-Halluzination ist eine falsche Aussage, die ein Chatbot selbstsicher formuliert. Am Tonfall erkennst du sie nicht. Du findest sie, wenn du alles Nachprüfbare wie Zahlen und Zitate gezielt mit der Originalquelle abgleichst.

Transparenz: Dieser Beitrag wurde mit KI-Unterstützung erstellt, in einem zweiten Schritt Aussage für Aussage mit den unten verlinkten Quellen abgeglichen und basiert auf diesen Quellen (Stand: 16. Oktober 2026). Angaben von Herstellern kennzeichnen wir mit „laut Anbieter“. Eigene Tests haben wir nicht durchgeführt, sofern nicht ausdrücklich erwähnt. So arbeiten wir · Fehler melden

Mit der Prüfroutine in diesem Ratgeber fängst du typische KI-Fehler ab, bevor ein Kunde sie entdeckt. Technikkenntnisse brauchst du dafür keine, nur einen Browser und etwas Misstrauen an den richtigen Stellen. Der Haken: Ganz verhindern lassen sich Halluzinationen nicht, das sagen sogar die Anbieter selbst.

Das Wichtigste in Kürze

  • Prüfe zuerst alles, was sich nachschlagen lässt: Zahlen, Daten, Namen, Zitate, Paragrafen und Links.
  • Öffne jede Quelle, die die KI nennt. Eine Quellenangabe allein beweist nichts.
  • Erlaube der KI im Prompt ausdrücklich, „Das weiß ich nicht“ zu sagen.
  • Bei rechtlichen und steuerlichen Fragen ist die KI-Antwort nur ein Entwurf, den du mit dem Gesetzestext oder mit Fachleuten abgleichst.

Was ist eine KI-Halluzination und warum entsteht sie?

Eine Halluzination ist eine Antwort, die überzeugend klingt, aber nicht stimmt. OpenAI beschreibt sie als Fälle, in denen ein Modell selbstsicher eine Antwort erzeugt, die nicht wahr ist.

Ein Beispiel aus demselben Beitrag: Das Forschungsteam fragte einen verbreiteten Chatbot nach dem Titel der Doktorarbeit eines Mitautors. Der Bot nannte drei verschiedene Titel. Alle drei waren falsch. Beim Geburtstag derselben Person lief es genauso.

Der Grund liegt in der Technik. Ein Sprachmodell schlägt nichts nach. Es sagt Wort für Wort voraus, was in einem Text wahrscheinlich als Nächstes kommt.

Rechtschreibung folgt festen Mustern, deshalb verschwinden solche Fehler laut OpenAI mit größeren Modellen. Ein seltener Fakt wie ein Geburtstag folgt dagegen keinem Muster. Hier muss das Modell raten.

Dazu kommt ein Anreiz zum Raten. Laut OpenAI bewerten viele Tests nur, ob eine Antwort richtig ist, wie bei einem Multiple-Choice-Test ohne Minuspunkte. Wer auf „10. September“ tippt, liegt mit einer Chance von 1 zu 365 richtig. Wer „Ich weiß es nicht“ sagt, bekommt sicher null Punkte.

Wie stark das wirkt, zeigt ein Vergleich zweier OpenAI-Modelle beim Wissenstest SimpleQA. Die Zahlen stammen aus dem OpenAI-Beitrag vom 5. September 2025:

Messwertgpt-5-thinking-minio4-mini (älter)
Antwort verweigert („weiß nicht“)52 %1 %
Richtige Antworten22 %24 %
Falsche Antworten26 %75 %

Das ältere Modell lag sogar etwas öfter richtig. Es lag aber fast dreimal so oft falsch, weil es fast nie zugab, etwas nicht zu wissen. Für dich heißt das: Eine KI, die immer eine Antwort hat, ist nicht automatisch die bessere.

Woran du eine Halluzination erkennst

Verlass dich nicht auf den Tonfall. Die deutsche Hilfeseite von OpenAI bringt es auf den Punkt: „Zuversicht ist keine Verlässlichkeit.“ Achte stattdessen auf diese Warnsignale:

  • Sehr genaue Zahlen ohne Link, etwa „73,4 % der Kunden …“.
  • Wörtliche Zitate mit Namen und Funktion einer Person.
  • Literaturangaben, Studien, Paragrafen, Aktenzeichen oder Buchtitel. Laut OpenAI kann ChatGPT solche Belege erfinden und sogar auf Quellen verweisen, die es gar nicht gibt.
  • Fragen zu wenig bekannten Personen, kleinen Firmen oder Nischenregeln. Solche seltenen Fakten lassen sich laut OpenAI nicht aus Mustern ableiten.
  • Aktuelle Ereignisse. Ohne Websuche kennt das Modell nur den Stand seiner Trainingsdaten.
  • Unterschiedliche Antworten auf dieselbe Frage. Anthropic nennt solche Widersprüche als Hinweis auf eine Halluzination.

Ein Beispiel aus dem Alltag: Du lässt dir einen LinkedIn-Post über Kundenbindung schreiben. Der fertige Text enthält eine Statistik ohne Link und ein Zitat eines bekannten Unternehmers. Genau diese zwei Stellen prüfst du, bevor du auf „Posten“ klickst.

Die Prüf-Ampel: Wie gründlich musst du prüfen?

Nicht jeder KI-Text braucht einen Faktencheck. Je mehr neue Fakten die KI selbst liefert, desto höher das Risiko. Die Einteilung unten ist eine Faustregel unserer Redaktion. Sie beruht auf den Warnsignalen aus den Hinweisen von OpenAI und Anthropic.

AmpelWas die KI tutBeispielSo prüfst du
GrünIdeen sammeln, Texte umformulierenZehn Betreffzeilen für deinen Newsletter, Caption aus deinen StichpunktenLies gegen deine Vorlage: Hat die KI etwas dazuerfunden?
GelbEin Dokument zusammenfassen, das du hochlädstProtokoll eines Kundentermins, langes PDFSuch drei Kernaussagen im Original. Fehlt eine, prüf alles.
GelbAllgemeinwissen erklärenWie funktioniert ein Newsletter-Double-Opt-in?Mit einer seriösen Quelle abgleichen
RotZahlen, Preise, Daten liefernMarktgröße für dein Angebot, Tool-PreiseJede Zahl in der Originalquelle finden und den Stand notieren
RotRecht, Steuern, FristenAGB-Klausel, Umsatzsteuer auf RechnungenGesetzestext oder offizielle Stelle lesen, im Zweifel Fachleute fragen
RotZitate, Studien, PersonenZitat für einen VortragOriginal öffnen. Nicht auffindbar heißt: streichen.

Bei Grün reicht ein kurzer Blick. Gelb heißt: Stichproben machen und erst bei einer Abweichung tiefer prüfen. Bei Rot verlässt kein Satz deinen Rechner, den du nicht selbst belegt hast.

Schritt für Schritt: So prüfst du einen KI-Text

Diese Routine ist für kurze Texte wie einen Post oder eine Kundenmail gedacht. Bei längeren Texten gehst du sie einfach Abschnitt für Abschnitt durch.

  1. Markiere alle prüfbaren Aussagen, also alles, was sich in einer Quelle nachschlagen lässt. Meinungen und Formulierungen lässt du aus.
  2. Frag die KI nach der Quelle für jede markierte Stelle. Nutze dafür den dritten Prompt weiter unten.
  3. Öffne jeden Link selbst und prüfe zwei Dinge: Gibt es die Seite, und steht die Aussage dort wirklich? Genau dazu rät OpenAI auf seiner Hilfeseite.
  4. Stell die Frage in einem neuen Chat ein zweites Mal. Weichen die Antworten ab, ist mindestens eine falsch.
  5. Streich, was du nicht belegen kannst. Oder ersetze es durch eine Zahl aus einer Quelle, die du selbst gefunden hast.

Wenn der Chatbot eine Websuche hat, schalte sie bei Faktenfragen ein. Laut OpenAI können Suche und Deep Research die sachliche Richtigkeit verbessern. Beide liefern Quellenangaben mit. Fehler schließt das aber nicht aus.

In Gemini findest du die Links über den Quellen-Button unter oder in der Antwort. Laut Google-Hilfe hat aber nicht jede Antwort Quellen.

Und wenn du eine Quelle partout nicht findest? Dann behandle die Aussage so, als hätte die KI sie erfunden. Eine Suche nach dem genauen Wortlaut eines Zitats in Anführungszeichen zeigt oft schnell, ob es irgendwo belegt ist. Bei Zahlen hilft der Blick auf die Seite der Organisation, die angeblich gezählt hat.

Findest du dort nichts, streichst du die Zahl oder schreibst ehrlich, dass es dazu keine belastbaren Daten gibt. Das wirkt auf Kunden seriöser als eine präzise Prozentangabe, die beim ersten Nachfragen zerfällt.

Drei Prompts gegen Halluzinationen zum Kopieren

Die folgenden Prompts haben wir selbst formuliert. Sie setzen Tipps aus der Anleitung von Anthropic gegen Halluzinationen um. Du kannst sie genauso in ChatGPT oder Gemini einsetzen. Für diesen Artikel haben wir KI-Werkzeuge genutzt, unter anderem Claude von Anthropic.

Beispiel-Prompt 1: Nichtwissen erlauben. Laut Anthropic kann schon das Falschangaben stark verringern.

Beantworte die folgende Frage nur, wenn du dir sicher bist. Wenn dir Informationen fehlen, schreib: „Dazu habe ich keine verlässlichen Informationen.“ Rate nicht.

Frage: [deine Frage]

Beispiel-Prompt 2: Nur das Dokument nutzen. Das passt gut, wenn du ein langes Dokument wie einen Vertragsentwurf zusammenfassen lässt.

Nutze nur den Text unten, nicht dein allgemeines Wissen. Fasse die fünf wichtigsten Punkte zusammen. Belege jeden Punkt mit einem wörtlichen Zitat aus dem Text. Findest du kein passendes Zitat, lass den Punkt weg und markiere die Stelle mit [ ].

Text: [Text einfügen]

Beispiel-Prompt 3: Selbstprüfung. Diesen Prompt schickst du direkt nach einer Antwort hinterher.

Prüfe deine letzte Antwort. Liste jede überprüfbare Tatsachenbehauptung einzeln auf. Schreib zu jedem Punkt, woher er stammt. Markiere alles mit „unsicher“, was du nicht belegen kannst.

Eine Grenze bleibt: Auch die Selbstprüfung kann danebenliegen. Anthropic schreibt, dass solche Techniken Halluzinationen deutlich verringern, aber nicht ganz beseitigen. Den Klick auf die Quelle nimmt dir kein Prompt ab. Mehr zum Aufbau guter Prompts findest du in unseren Prompt-Vorlagen fürs Business und bei den kostenlosen Prompts.

Darauf solltest du achten

Wer einen KI-Text verschickt, steht auch für die Fehler darin gerade. Wie peinlich das werden kann, zeigt ein Fall vom Amtsgericht Köln. Ein Anwalt reichte in einem Familienverfahren einen Schriftsatz mit erfundenen Belegen ein.

Laut beck-aktuell fand das Gericht ein Buch nicht, das es angeblich gab. Zitierte Aufsätze hatten einen anderen Inhalt oder existierten nicht. Im Beschluss vom 2. Juli 2025 (Az. 312 F 130/25) heißt es: „Auch die genannten Fundstellen sind frei erfunden.“

Für Selbstständige ist das Risiko ähnlich. Ein falscher Preis im Angebot oder eine erfundene Frist in einer Kundenmail kostet dich Vertrauen, das du dir lange aufgebaut hast. Lade für die Prüfung keine vertraulichen Kundendaten in ein Tool, das du nicht kennst. Wie du das sauber löst, steht in unserem Ratgeber zu Kundenmails mit KI.

Noch ein Punkt: Ein neueres oder teureres Modell ist kein Freibrief. OpenAI schreibt selbst, dass Halluzinationen auch bei GPT-5 noch vorkommen. Wenn du gerade erst mit KI startest, lohnt sich vorher der Überblick KI für Anfänger.

Fazit: Misstrauen an den richtigen Stellen

KI ist ein guter Entwurfsschreiber und ein schlechtes Nachschlagewerk. Nutze sie frei für Ideen und Formulierungen. Prüfe dagegen streng, sobald Zahlen oder rechtliche Aussagen ins Spiel kommen. Kopier dir heute Prompt 1 in deine Notizen und setz ihn vor jede Faktenfrage.

Buchtipp: Verstehen, wo KI an Grenzen stößt

Buch · Grundlagen verstehen

Ralf Otte: Künstliche Intelligenz für Dummies

Erklärt laut Verlag die Algorithmen hinter KI, Beispiele aus Industrie und Gesellschaft und die Grenzen der Technik. Einsteigerbuch aus der Dummies-Reihe von Wiley-VCH.

Passt zu dir, wenn: Wenn du genauer verstehen willst, wie KI arbeitet und warum sie Fehler macht.

Bei Amazon ansehen

Gratis-Download

50 ChatGPT-Prompts fürs Business als PDF

Vorlagen für Angebote, Kundenmails, Newsletter, Social Media und mehr. Kostenlos und ohne E-Mail-Adresse.

PDF herunterladen Was drinsteht →

Häufige Fragen

Kann man KI-Halluzinationen ganz verhindern?

Nein. OpenAI nennt Halluzinationen eine grundlegende Herausforderung für alle großen Sprachmodelle. Anthropic schreibt, dass gute Prompts sie deutlich verringern, aber nicht beseitigen. Wichtige Angaben musst du deshalb immer selbst prüfen.

Erfindet ChatGPT Quellen?

Das kann passieren. Laut OpenAI-Hilfeseite kann ChatGPT Zitate, Studien und Quellenangaben erfinden, auch Verweise auf Quellen, die es nicht gibt. Öffne jede genannte Quelle und prüf, ob die Aussage dort steht.

Halluziniert ChatGPT mit Websuche weniger?

Laut OpenAI können Suche und Deep Research die sachliche Richtigkeit verbessern und liefern Quellenangaben. Eine Garantie gegen Fehler ist das aber nicht. Die Suche macht das Prüfen leichter, ersetzt es aber nicht.

Welche KI halluziniert am wenigsten?

Eine verlässliche Rangliste für alle Aufgaben gibt es nicht. Im SimpleQA-Vergleich von OpenAI lag aber das Modell deutlich seltener falsch, das öfter „weiß ich nicht“ sagte. Wichtiger als die Wahl des Tools ist, dass du Fakten prüfst.

Quellen

* Affiliate-Link / Werbung: Wenn du über diesen Link etwas kaufst oder ein Angebot nutzt, erhält KI Business Kompass eine Provision. Für dich entstehen keine Mehrkosten. Als Amazon-Partner verdienen wir an qualifizierten Verkäufen. Mehr dazu