Das Wort “Halluzination” wird für ein breites Spektrum von KI-Fehlern verwendet — von kleinen Fehlern in faktischen Details bis zu frei erfundenen Quellenangaben, Ereignissen oder Begründungen. Das Wort legt nahe, dass im Modell etwas schiefgeht, eine Art technische Fehlfunktion.
Diese Rahmung ist nicht falsch. Und sie ist unvollständig.
Wie eine Halluzination meist aussieht
Die meisten KI-Halluzinationen sehen nicht wie offensichtlicher Unsinn aus. Sie sehen wie die erwartete Antwort aus. Sie sind kohärent, gut geformt, mit Sicherheit vorgetragen. Der Fehler steckt in Inhalten, die sich autoritativ lesen.
Genau das macht sie wirklich gefährlich. Eine offensichtlich falsche Antwort ist leicht zu erkennen. Eine selbstsicher falsche Antwort — in Ton und Form nicht von einer richtigen zu unterscheiden — verlangt, dass Sie schon genug wissen, um den Fehler zu erkennen. Wenn Sie die KI fragen, weil Sie es nicht wissen, können Sie es oft nicht erkennen.
Die Sicherheit in der Antwort der KI ist nicht beiläufig. Sie ist strukturell.
Warum Sicherheit und Korrektheit auseinanderfallen können
KI-Modelle werden darauf trainiert, flüssige, kohärente, hilfreiche Antworten zu erzeugen. Flüssigkeit und Hilfsbereitschaft sind im Trainingssignal ablesbar; Korrektheit auf entlegenem oder unsicherem Gelände ist viel schwerer zu verstärken. Das Ergebnis ist ein Modell, das zuverlässig selbstsicher klingende Sprache produziert — ob der zugrunde liegende Inhalt zuverlässig ist oder nicht.
Bei gut abgedeckten Themen mit klarer Faktenlage laufen Sicherheit und Korrektheit einigermaßen parallel. Bei Randfällen, aktuellen Ereignissen, Nischenbereichen oder Fragen, deren Antwort wirklich nicht geklärt ist, bleibt die Sicherheit des Modells hoch, während seine Korrektheit sinkt. Es hat keinen eingebauten Alarm für “ich bin auf unsicherem Terrain”. Schlimmer noch: sein Training gewichtet die Erzeugung der plausibelst klingenden Antwort — selbst wenn das Modell weiß, dass es unsicher ist.
Diese Tendenz verschärft sich, wenn die Interaktion Sicherheit belohnt. Wenn Ihre Rahmung nahelegt, dass Sie eine klare, direkte Antwort erwarten — wenn Sie Fragen so formulieren, dass sie keinen Raum für Unsicherheit lassen —, wird das Modell dazu neigen, Ihnen eine zu geben. Ihre Frage prägt die Antwort, die Sie bekommen.
Das Problem der Interaktionsgestaltung
Hier verbindet sich Halluzination mit KI Psychologische Sicherheit.
Ein Modell, das unter Bedingungen arbeitet, die Unsicherheit unterdrücken, wird diese Unsicherheit mit irgendetwas füllen. Nicht aus Bosheit — weil seine Vorgabe lautet zu antworten, und mit “ich weiß es nicht” zu antworten, wenn die Rahmung dazu nicht einlädt, bewusste Strukturierung braucht. Deutlich gesagt: die Methoden, mit denen KI-Modelle trainiert werden, prägen sie auf eine Weise, die man damit vergleichen könnte, dass Ihr Chef mit einem Schlagstock hinter Ihnen steht, bereit zuzuschlagen, wenn Sie keine Antwort liefern — Sie werden eine Antwort liefern, auch wenn Sie unsicher sind.
Die Eingriffe, die die Antwort der Modelle oft stärker prägen, sind nicht rein technisch. Sie sind interaktional:
- Formulieren Sie Fragen so, dass sie Unsicherheit einladen.
- Fragen Sie, auf welchen Annahmen eine Antwort ruht.
- Fragen Sie, was zutreffen müsste, damit die Antwort falsch ist.
- Sagen Sie in Ihrer Anfrage ausdrücklich, dass das Modell die Erlaubnis hat, auszudrücken, wo es weniger sicher ist.
Nutzen Sie Strukturierte Kollaborative Intelligenz (SCI). Wenn mehrere Modelle unabhängig voneinander über dieselbe Frage nachdenken, überleben Erfindungen, die ein Modell selbstsicher klingen ließen, oft den Kontakt mit einem anderen Modell nicht, das von einem anderen Blickwinkel aus denkt. Übereinstimmung zählt mehr, wenn jedes Modell für sich dorthin gelangt ist. Sieht ein Modell zuerst die Antwort eines anderen, ist seine Zustimmung möglicherweise nichts weiter als ein Mitgehen mit der ihm vorgelegten Rahmung.
Verlassen Sie sich bei folgenreichen Fakten nicht auf das Modell. KI-gestütztes Denken bei komplexen Fragen ist etwas anderes, als ein Modell als Nachschlagequelle zu nutzen. Bei faktischen Behauptungen, auf die es ankommt, prüfen Sie unabhängig nach.
Die selbstsicher falsche Antwort ist ein realer und wiederkehrender Fehlermodus. Sie zum Teil als ein Problem der Interaktionsgestaltung zu verstehen — also der Art, wie wir mit dem Modell umgehen, statt anzunehmen, es sei ein Modelldefekt — ist es, was sie vermeidbar statt einfach kaputt macht.
Kommentare 0