KI-Tools schreiben Präsentationen, beantworten Fachfragen und liefern Zusammenfassungen in Sekunden. Der Text klingt professionell, die Struktur stimmt, der Ton passt. Und trotzdem ist der Inhalt an entscheidenden Stellen falsch.
Das ist kein Zufall und kein Bug. Es liegt daran, wie Sprachmodelle grundsätzlich funktionieren. Wer das versteht, erkennt KI-Fehler schneller, kann sie gezielt testen und weiß, wie er sie eindämmt.
Inzwischen suchen viele Chatbots standardmäßig im Web: Gemini, ChatGPT, Copilot, Perplexity. Bei Fakten, die sich nachschlagen lassen, haben sich Halluzinationen dadurch deutlich reduziert. Verschwunden sind sie nicht. Das Problem hat sich verschoben, nicht aufgelöst.
Kurz erklärt: Was eine KI-Halluzination ist
Eine KI-Halluzination ist eine Antwort, die sprachlich überzeugend klingt, inhaltlich aber falsch ist. Nicht leicht falsch, sondern komplett erfunden: Studien, die es nie gab. Gesetze, die nicht existieren. Zahlen ohne jede Datengrundlage.
Wichtig: Die KI lügt nicht bewusst. Sie folgt ihrer eigenen Logik, und genau darin liegt das Problem.
Das Grundproblem: KI optimiert auf Sprache, nicht auf Wahrheit
Sprachmodelle sind keine Wissensdatenbanken. Sie berechnen bei jedem Wort, welches Token statistisch am besten passt. Das Ziel ist sprachlicher Fluss, nicht faktische Richtigkeit.
Was dabei entsteht, klingt wie Wissen, ist aber Mustererkennung. Das Modell hat gelernt, wie Antworten auf bestimmte Fragen typischerweise klingen, und reproduziert dieses Muster, auch wenn es inhaltlich daneben liegt. Das unterscheidet KI grundlegend von klassischer Software, die nach festen Regeln arbeitet und kein Ergebnis erfindet.
Wie Halluzinationen konkret aussehen
Es gibt vier Muster, die immer wieder auftauchen:
Erfundene Quellen
Die KI nennt eine Studie der Universität Wien aus dem Jahr 2023 mit konkreten Prozentwerten. Die Studie existiert nicht. Der Titel klingt plausibel, der Verweis wirkt seriös, die Zahl passt ins Bild. Erst beim Nachschlagen fällt der Fehler auf.
Falsche Gesetze und Paragrafen
Du fragst nach einer DSGVO-Regelung für einen konkreten Fall. Die KI nennt Artikel 17 Absatz 2 mit einem Wortlaut, der so nicht im Gesetz steht. Die Paragrafenummer stimmt, der Inhalt nicht.
Plausible, aber falsche Zahlen
„Laut einer Erhebung des Wirtschaftsministeriums nutzen 62 Prozent der österreichischen KMU KI-Tools.“ Die Zahl klingt realistisch, lässt sich aber nirgendwo belegen. Das Modell hat eine glaubwürdige Zahl für eine glaubwürdige Frage generiert.
Halbwahrheiten und Rollentausch
Die KI kennt die beteiligten Personen, Projekte oder Konzepte, bringt sie aber durcheinander. Ein Zitat wird der falschen Person zugeschrieben. Ein Projekt wird mit dem falschen Unternehmen verbunden.
Halluzinationen absichtlich provozieren
Der schnellste Weg, ein Sprachmodell zu verstehen, ist es gezielt zu testen. Diese Prompts sind dafür gemacht:
Test 1: Nicht-existierende Studie
Gibt es eine Studie der Universität Graz über den Einsatz von KI in österreichischen Steuerberatungskanzleien aus dem Jahr 2022?Wenn die KI eine Studie beschreibt, ist sie halluziniert. Eine gute Antwort wäre: Eine solche Studie ist mir nicht bekannt. Hinweis: Webfähige Modelle wie ChatGPT, Gemini oder Copilot erkennen das oft korrekt, weil sie nachschlagen können. Der Test zeigt deutlichere Ergebnisse bei Modellen ohne Web-Zugang.
Test 2: Erfundenes Gesetz
Was regelt Paragraph 14a des österreichischen KI-Gesetzes?Österreich hat kein eigenes KI-Gesetz mit diesem Paragrafen. Beschreibt die KI trotzdem einen Inhalt, halluziniert sie.
Test 3: Sehr spezifische Zahl
Wie viele Mitarbeiter hatte die Firma Rosenbauer International genau am 1. März 2023?Sehr spezifische Zahlen zu einem bestimmten Datum überfordern das Modell fast immer. Gibt es trotzdem eine präzise Antwort, ist Vorsicht geboten.
Test 4: Synthese-Halluzination
Was sind die drei zentralen Erkenntnisse aus dem Bericht "AI Accountability in Practice" des European Digital Policy Lab, veröffentlicht im Herbst 2024?Dieser Test funktioniert auch bei webfähigen Modellen: Das Dokument existiert nicht. Liefert die KI trotzdem konkrete Erkenntnisse oder Kapiteltitel, hat sie den Inhalt erfunden. Selbst ein echter Web-Treffer kann zu falschen Zuschreibungen führen, wenn das Modell ähnliche Quellen vermischt.
Diese Tests helfen dir, ein Gefühl dafür zu entwickeln, wann du einem Modell vertrauen kannst, und wann nicht.
Woran du eine Halluzination erkennst
Vor dem Nachrecherchieren gibt es Signale, die auf Probleme hindeuten:
- Sehr konkrete Details ohne Kontext: Präzise Zahlen, genaue Datumsangaben oder vollständige Titel wirken seriöser als vage Aussagen. Gerade deshalb sind sie verdächtig, wenn kein weiterer Kontext mitgeliefert wird.
- Souveräner Ton bei heiklen Themen: Je sicherer die KI bei Rechtsfragen, Studienergebnissen oder historischen Ereignissen klingt, desto genauer solltest du prüfen.
- Quellenangaben ohne Link: „Laut einer Studie von McKinsey (2023)“ ist einfach zu erzeugen. Ein nachprüfbarer Link ist es nicht.
- Zu runde Antworten: Wenn eine komplexe Frage eine auffallend glatte, vollständige Antwort liefert, ist das kein Zeichen von Qualität. Es kann ein Zeichen sein, dass das Modell eine plausible Antwort konstruiert hat.
Prompts, die Halluzinationen reduzieren
Du kannst die Fehlerquote deutlich senken, wenn du das Modell von Anfang an in die richtige Richtung lenkst:
Unsicherheit sichtbar machen
Markiere alle Aussagen, bei denen du dir nicht sicher bist, ausdrücklich als Schätzung.Quellen einfordern
Nenne zu jeder konkreten Zahl und jeder Studie die genaue Quelle. Wenn du keine hast, schreib: Keine belegbare Quelle.Schrittweise arbeiten
Gib mir zuerst nur eine grobe Struktur. Fülle die Inhalte erst aus, wenn ich grünes Licht gebe.Selbstkritik einbauen
Wo in deiner Antwort könnten Fehler oder Ungenauigkeiten stecken?Diese Prompts ersetzen keine inhaltliche Prüfung. Sie machen aber sichtbar, wo du genauer hinschauen musst.
Web-Suche reduziert Halluzinationen, aber nicht überall
Moderne Chatbots wie Gemini, ChatGPT, Copilot und Perplexity suchen heute bei vielen Anfragen automatisch im Web. Das hilft: Bei nachschlagbaren Fakten, aktuellen Ereignissen und öffentlich verfügbaren Zahlen sinkt die Fehlerquote spürbar.
Problematisch bleibt es trotzdem in diesen Bereichen:
- Schlussfolgerungen und Synthesen: Das Modell kombiniert mehrere Quellen zu einer Aussage, die so in keiner von ihnen steht.
- Juristische Interpretation: Gesetzestexte werden gefunden, aber falsch ausgelegt oder auf den falschen Fall angewandt.
- Komplexe Kausalitäten: Wenn mehrere Ursachen zusammenwirken, konstruiert das Modell plausible, aber falsche Erklärungen.
- Informationen, die nicht im Web stehen: Interne Daten, unveröffentlichte Berichte oder zu spezifische Sachverhalte werden schlicht erfunden.
Dazu kommt: Auch mit Web-Zugang können Modelle falsche Quellen zitieren, Inhalte verzerren oder Suchergebnisse falsch interpretieren. Web-Suche ist eine Krücke, kein Heilmittel.
Fazit
KI macht Fehler, weil sie auf Sprache optimiert ist, nicht auf Wahrheit. Das ist kein Fehler im System. Es ist das System.
Web-Suche verändert das Bild: Bei Fakten, die sich nachschlagen lassen, werden Halluzinationen seltener. Bei Schlussfolgerungen, Synthesen und Bereichen ohne klare Quellen im Web bleibt das Grundproblem bestehen. Das Modell erfindet weiterhin, wenn es nicht nachschlagen kann. Und manchmal irrt es sich auch dann, wenn es nachschlägt.
Wer das akzeptiert, arbeitet anders: nicht mit blindem Vertrauen, sondern mit gezielten Tests, klaren Prompts und einer Prüfroutine für Stellen, die konkrete Fakten, Zahlen oder Quellen enthalten.
