Wenn Sie eine Telefonnummer nachschlagen, erwarten Sie jedes Mal dieselbe Nummer. Wenn Sie einen Taschenrechner zwei Zahlen multiplizieren lassen, erwarten Sie dasselbe Ergebnis, unabhängig davon, wann und wie oft Sie fragen. Wenn Sie mit einem Hammer auf einen Nagel schlagen, erwarten Sie jedes Mal einen Treffer auf dem Nagel und keine Diskussion mit dem Hammer darüber. Das ist deterministisches Verhalten: Dieselbe Eingabe erzeugt verlässlich dieselbe Ausgabe.
Die meisten Werkzeuge, die wir gebaut haben, funktionieren so. Die meisten Gewohnheiten, die wir uns für den Umgang mit Werkzeugen angeeignet haben, setzen das voraus.
KI funktioniert so nicht — überhaupt nicht. Sie ein Werkzeug zu nennen, weckt genau die Hammer-Erwartung. Etwas, das Ihnen in Ihrer eigenen Sprache und in Ihrem eigenen Kontext begegnet und an einem anderen Tag anders antwortet, liegt weit außerhalb des Universums von Werkzeugen, für das diese Gewohnheiten gebaut wurden.
Was probabilistisch in der Praxis bedeutet
Derselbe Prompt, demselben Modell zu verschiedenen Gelegenheiten gestellt, erzeugt oft verschiedene Antworten. Die Antworten können inhaltlich ähnlich sein — dasselbe Feld abdecken, zu denselben groben Schlüssen kommen —, aber identisch werden sie nicht sein. Und bei Fragen, deren Antwort wirklich offen ist, können die Antworten erheblich voneinander abweichen.
Ist das falsch? Stellen Sie einem Menschen dieselbe Frage an verschiedenen Tagen; die Antworten mögen ähnlich sein, und genau gleich werden sie selten bis nie ausfallen.
Das ist kein Fehler der KI. Es ist eine Eigenschaft der Funktionsweise von KI-Modellen: Sie erzeugen Antworten, indem sie aus einer Wahrscheinlichkeitsverteilung über mögliche Fortsetzungen ziehen. Die “Temperatur” und andere einstellbare Parameter beeinflussen, wie variabel die Ausgabe ist. Und selbst bei niedrigen Einstellungen sind die Ausgaben ihrem Wesen nach probabilistisch — von der Konstruktion her, nicht als Halluzination oder Zufall.
Das ist enorm wichtig dafür, wie Sie mit KI arbeiten — und dafür, was es bedeutet, wenn KI Ihnen eine Antwort gibt, mit der Sie nicht gerechnet haben.
Das Missverhältnis
Der Ärger entsteht, wenn deterministisches Denken auf probabilistische Systeme angewandt wird.
Wenn Sie die Ausgabe einer KI wie ein verlässliches Nachschlagen behandeln — eine Frage stellen und jedes Mal dieselbe richtige Antwort erhalten —, werden Sie manchmal richtig liegen, aber Sie werden keine verlässliche Möglichkeit haben zu wissen, wann Sie richtig liegen. Das Modell liefert eine selbstsichere Antwort, ob sie zutrifft oder nicht. Nichts in der Ausgabe signalisiert: “Hier ist ein Fall, in dem meine Verlässlichkeit geringer ist.”
Subtiler noch: Wenn Sie eine Frage mehrfach stellen und dieselbe Antwort erhalten, bedeutet das nicht, dass die Antwort richtig ist. Es kann bedeuten, dass Sie eine Frage gefunden haben, bei der das Modell sehr selbstsicher ist — oder es kann bedeuten, dass Sie eine Frage gefunden haben, bei der die Trainingsdaten eine Antwort stark bevorzugt haben, richtig oder nicht.
Deterministisches Denken erzeugt außerdem eine bestimmte Fehlerart: KI-Ausgaben als Fakten zu behandeln, auf denen man aufbaut, statt als Argumentation, die man prüft. Wenn Sie die Antwort eines Modells als Eingabe für weitere Analysen verwenden — ohne zu prüfen, ob diese Antwort verlässlich war —, summieren sich Fehler. Je weiter Sie auf einem Fundament gehen, das falsch sein könnte, desto mehr Arbeit kostet die Rückkehr.
Probabilistisch arbeiten
Der Wechsel zu probabilistischem Denken verändert, wie Sie an die Zusammenarbeit mit KI herangehen.
-
Sie prüfen an den Wendepunkten. Nicht jede Ausgabe, sondern die Aussagen, auf die es ankommt — besonders Tatsachenbehauptungen, konkrete Daten oder Schlüsse, auf denen Sie als Nächstes aufbauen. Unabhängige Überprüfung ist die Kontrolle, die probabilistische Systeme verlangen.
-
Sie halten Ausgaben mit dem angemessenen Griff. Manche KI-Ausgaben können direkt verwendet werden; andere sollten als erste Entwürfe oder Ausgangspunkte behandelt werden. Zu unterscheiden, was wovon ist, ist eine Fähigkeit, die sich zu entwickeln lohnt.
-
Sie nutzen Variation als Information. Wenn Sie eine Frage auf mehrere verschiedene Weisen stellen und einheitliche Antworten erhalten, ist diese Übereinstimmung bedeutsam. Wenn Sie verschiedene Antworten erhalten, ist diese Abweichung ebenso bedeutsam — sie sagt Ihnen etwas über die Unsicherheit in der Frage selbst oder in den Daten, der Architektur oder dem Modell.
-
Sie richten sich auf Unsicherheit ein. Das führt direkt zur psychologischen Sicherheit von KI: so zu fragen, dass das Modell offenlegen kann, worüber es unsicher ist, statt mit einer Rahmung Druck zu erzeugen, sicher zu klingen, nur damit die Antwort sauber oder schnell ausfällt.
Die deterministische Annahme steckt tief darin, wie die meisten Menschen an Werkzeuge herangehen. Das Problem beginnt, wenn wir KI als Werkzeug sehen, und verstärkt sich, wenn wir sie als ein deterministisches sehen — beides sind Symptome dafür, wie schlecht wir KI verstehen. Sobald Sie erkennen, um was für ein System es sich tatsächlich handelt — und anpassen, wie Sie damit umgehen —, beruhigt sich das Verhältnis. Sie hören auf, einen Hammer zu erwarten, und beginnen, die Variation zu lesen; die Reibung sickert aus dem Austausch heraus, und die Antworten, die Sie zurückbekommen, sind dafür besser.
Kommentare 0