[{"data":1,"prerenderedAt":149},["ShallowReactive",2],{"footer-topics-de":3,"post-de-ai-psychological-safety-why-ai-cant-say-i-dont-know":70},{"topics":4},[5,21,33,46,58],{"locale":6,"name":7,"slug":8,"blurb":9,"summary":10,"state":11,"featuredOnHub":12,"hubOrder":13,"accent":14,"questionsTitle":15,"questions":16,"body":20},"de-DE","Die Reise","the-journey","Von ersten Experimenten mit Agile × KI bis zu einem funktionierenden System — die Geschichte hinter dem Denken.","Von ersten Experimenten bis zu einem funktionierenden System — die echte Geschichte der Entwicklung von Agile4AI, einschließlich der Umwege, die alles geprägt haben.","published",true,2,"gold","Was uns die Reise weiterhin lehrt",[17,18,19],"Was hat uns überzeugt, dass Agile und KI zusammengehören — und was hätte uns fast vom Gegenteil überzeugt?","Welche Umwege erwiesen sich als die lehrreichsten?","Wie hat sich SCI von einem Copy-Paste-Experiment zu KI-Antworten entwickelt, auf die man sich wirklich verlassen kann?","\nJede Idee in diesem Thema entstammt unseren Erfahrungen bei der Entwicklung von Agile4AI. Wir teilen diese Geschichte gerne mit Ihnen — die Erfolge und die Misserfolge — weil wir glauben, dass wir gemeinsam lernen können, wie wir besser mit KI arbeiten. Was wir herausgefunden haben, kam nicht aus der Theorie. Es kam aus dem Tun, aus dem Scheitern, aus dem Neuanfangen mit dem Gelernten.\n\nDie Reise begann mit einer einfachen Frage: Konnte Agile für das KI-Zeitalter aktualisiert werden? Was folgte, waren Jahre der Experimentierung, gescheiterte Annahmen, unerwartete Entdeckungen und das langsame Entstehen von etwas, das wirklich funktioniert — ein Ansatz der Strukturierten Kollaborativen Intelligenz (SCI) und das darauf aufbauende Agile4AI-System.\n\nDies ist keine aufgeräumte Retrospektive, geschrieben mit dem Vorteil des Rückblicks. Es ist die Geschichte, so nah wie möglich daran, wie sie sich wirklich ereignet hat — einschließlich der Sackgassen, der Momente des Zweifels und der Durchbrüche, die alles neu gerahmt haben.\n\nWir teilen sie, weil die Geschichte selbst die Lektion trägt. Die Schlussfolgerungen sind wichtig, aber auch *wie wir dorthin gelangt sind* — denn der Weg zeigt, was funktioniert hat, was nicht, und warum.\n\nDie Beiträge in diesem Thema decken den gesamten Bogen ab: frühe Experimente mit KI-Zusammenarbeit, die Entwicklung von SCI, spezifische Entdeckungen, die unsere Arbeitsweise verändert haben, und Meilensteine, die es wert sind, festgehalten zu werden. Manche sind reflektierend. Manche sind roh. Alle sind real.\n\nWenn Sie verstehen möchten, warum Agile4AI und SCI existieren — nicht nur, was sie sind — fangen Sie hier an.\n",{"locale":6,"name":22,"slug":23,"blurb":24,"summary":25,"state":11,"featuredOnHub":12,"hubOrder":26,"accent":14,"questionsTitle":27,"questions":28,"body":32},"Agile Decoded","agile-decoded","Was Agile-Begriffe wirklich bedeuten — nicht das gängige Kürzel, nicht die Cargo-Kult-Version, nicht das Glossar des Methodologen.","Das Vokabular von Agile wird weit verbreitet verwendet und weit verbreitet missverstanden. Die Begriffe richtig zu verstehen ist keine Pedanterie — es ist der Unterschied zwischen der Zeremonie und der Arbeit.",3,"Warum Terminologie grundlegend ist",[29,30,31],"Wenn ein Standup wie ein Statusbericht durchgeführt wird, was verliert das Team wirklich?","Als 'Agile Methodik' zur Standardvokabel wurde, was bewirkte das mit der Art, wie Organisationen Transformation angingen?","Was sind die Kosten eines Teams, das jede Agile-Praxis benennen kann, aber den Zweck keiner von ihnen versteht?","\nAgile hat ein Vokabularproblem. Nicht weil die Begriffe obskur wären — die meisten Menschen in modernen Organisationen haben sie gehört. Sondern weil es sich um vertraute Wörter handelt, die in einem völlig anderen Kontext verwendet werden, und ohne diesen Kontext ordnen die Menschen sie dem zu, was sie bereits kennen.\n\nWenn jemand zum ersten Mal auf „Scrum Master\" stößt, ist das nächstliegende verfügbare Konzept „Projektmanager\". Die Zuordnung fühlt sich natürlich an — fast offensichtlich. Der Kontext ist völlig anders.\n\nNiemand hat eine ausreichend klare Brücke zwischen ihnen gebaut. Und das Problem verschärfte sich, als wohlmeinende Praktiker — Menschen, die aufrichtig bemüht waren, Organisationen voranzubringen — begannen, Agile als „besseres Projektmanagement\" zu beschreiben. Begannen, Bücher mit dem Titel „Agile Methodik\" zu schreiben. Wenn man seinen Ansatz eine Methodik nennt, messen die Menschen ihn an Methodikstandards: Planungsartefakte, Phasengates, Lieferbarstrukturen. Wenn Agile diese Dinge nicht produziert — weil es nie dafür ausgelegt war — scheitert es an diesen Standards, zu Recht. Das Problem ist nicht, dass Agile eine schlechte Methodik ist. Das Problem ist, dass Agile überhaupt keine Methodik ist. Es so zu nennen garantierte, dass alle, die eine Methodik suchten, enttäuscht wurden, und dass alle, die es adoptierten, etwas aufbauten, das Waterfall bereits kartiert hatte.\n\nEin Standup wird zum Statusbericht. Ein Sprint wird zur Deadline. Ein Backlog wird zur Aufgabenliste. „Agile Methodik\" wird zur Standardformulierung für etwas, das die Autoren des Manifests nicht als Beschreibung dessen erkannt hätten, was sie aufgebaut haben. Und wenn die Wörter die falsche Bedeutung haben, produzieren die darauf aufbauenden Praktiken die falschen Ergebnisse — präzise, treu und in großem Maßstab.\n\nDieses Thema ist eine Korrektur Konzept für Konzept. Kein Stilhandbuch — ein funktionales. Jeder Beitrag nimmt ein Wort oder eine Phrase, das bzw. die grundlegend dafür geworden ist, wie Organisationen über Agile denken, untersucht, was es wirklich bedeutet, und erklärt, was verloren geht, wenn das Kürzel die Substanz ersetzt. Das sind nicht nur terminologische Unterschiede. „Gewünschtes Ergebnis\" ist kein eleganteres Wort für „Spezifikation\" — es ist etwas völlig anderes, aus einem anderen Modell dafür, wie Arbeit erledigt wird. Der Begriff ist die Oberfläche. Das Konzept darunter ist das, was zählt.\n\nDas gleiche Muster zeigt sich, wenn Organisationen KI angehen — und die konzeptionelle Lücke ist größer. Bei Agile waren die zugrunde liegenden Konzepte zumindest artikuliert worden, auch wenn schlecht kommuniziert. Bei KI bilden sich die Konzepte selbst noch, und im öffentlichen Verständnis beginnen sie kaum zu entstehen. Das Vokabular eilt dem Verständnis voraus: KI als „Automatisierung\", KI als „Werkzeug\", „KI-Transformation\" als Projekt mit Abschlussdatum. Jedes davon verankert ein mentales Modell, bevor jemand geprüft hat, ob es passt. Wie wir Dinge nennen, bestimmt, was und wie wir bauen. Die Wörter richtig zu haben ist die Voraussetzung dafür, die Arbeit richtig zu machen.\n\nEs gibt ein Prinzip, das hier wirkt: Mentale Modelle kommen zuerst. Sprache drückt sie aus. Handlungen folgen. Wenn das mentale Modell nicht zur Arbeit passt, trägt das Vokabular, das es ausdrückt, diese Fehlanpassung — und die auf diesem Vokabular aufbauenden Handlungen werden das verzerrte Verständnis treu ausführen, in großem Maßstab, mit vollem Einsatz. Ein Vokabularwechsel ohne einen Mentalitätswechsel produziert bestenfalls eine Übersetzungstabelle: ein Äquivalenzdiagramm, bei dem „Sprint\" auf etwas wie „kurze Deadline\" abgebildet wird. Übersetzungstabellen ermöglichen es Menschen, über die Lücke hinweg zu operieren. Sie schließen sie nicht. Die Beiträge in diesem Thema streben danach, mehr als zu übersetzen. Sie streben danach, das mentale Modell zu verschieben.\n",{"locale":6,"name":34,"slug":35,"blurb":36,"summary":37,"state":11,"featuredOnHub":12,"hubOrder":38,"accent":39,"questionsTitle":40,"questions":41,"body":45},"Strukturierte Kollaborative Intelligenz","structured-collaborative-intelligence","Wo kollaboratives Denken ein einzelnes Spitzenmodell übertrifft — und wo nicht.","Wo strukturierte Zusammenarbeit — zwischen Modellen und zwischen Modellen und Menschen — Überlegungen hervorbringt, die ein einzelnes Modell allein nicht erreichen kann.",4,"green","Fragen, zu denen wir immer wieder zurückkehren",[42,43,44],"Wo bietet Strukturierte Kollaborative Intelligenz einen Mehrwert, den ein einzelnes Modell schlicht nicht erreichen kann?","Wenn Modelle nicht übereinstimmen, was sagt Ihnen das — und wie nutzen Sie es?","Wie gestalten Sie eine Struktur, die KI-Zusammenarbeit produktiv statt nur redundant macht?","\nEin einzelnes KI-Modell, so fähig es auch sein mag, denkt allein. Es gibt niemanden, der seine Annahmen hinterfragt, seine blinden Flecken aufdeckt oder bemerkt, wenn es von der ursprünglichen Absicht abgewichen ist. Solo-KI — die Arbeit mit einem einzelnen Modell zur gleichen Zeit — ist dafür anfällig. Ein Modell, das aufgefordert wird, eine Antwort zu geben, wird eine geben, auch wenn es keine gute Antwort hat.\n\nStrukturierte Kollaborative Intelligenz (SCI) ist ein anderer Ansatz. Anstatt das Ergebnis eines einzelnen Modells als Endergebnis zu behandeln, nutzt SCI strukturierte Zusammenarbeit — zwischen mehreren KI-Modellen und zwischen Modellen und Menschen — um zuverlässigere, gründlicher geprüfte und transparentere Ergebnisse zu erzielen. Modelle überprüfen sich gegenseitig. Meinungsverschiedenheiten bringen Annahmen ans Licht. Der Prozess selbst schafft eine Rückkopplungsschleife, die eine Einzelmodell-Interaktion nicht replizieren kann.\n\nDie Verbindung zu Agile ist direkt: Das ist es, was leistungsstarke Teams immer getan haben. Nicht eine Person, die isoliert eine Antwort produziert, sondern ein strukturierter Prozess aus Zusammenarbeit, Überprüfung und Iteration, der erfasst, was jede einzelne Perspektive übersieht. SCI wendet diese Disziplin auf KI an.\n\nEs gibt ein tieferes Problem mit dem Alleindenken. Solo-KI bindet Sie an eine einzige Datenquelle, eine einzige Architektur und einen einzigen Satz eingebetteter Vorurteile — was eine einzige Antwortform bedeutet, ob diese genau ist oder nicht. Denken Sie daran, wie ein guter Detektiv mehrere Zeugen befragt. Nicht weil einer von ihnen lügt, sondern weil jeder Blickwinkel etwas enthüllt, das die anderen übersehen haben. Zusammen kommen sie näher an das heran, was tatsächlich passiert ist. SCI funktioniert genauso: mehrere Modelle aus verschiedenen Abstammungslinien, jedes mit seinem eigenen Blickwinkel. Die entstehende Antwort wurde aus mehreren Richtungen betrachtet — reichhaltiger, vollständiger und schwerer still falsch zu liegen.\n\nWenn Modelle verschiedener Abstammungslinien zusammenarbeiten, verbessern sich die Ergebnisse auf bedeutsame Weise: weniger zuversichtliche Fehler, besserer Umgang mit Randfällen, expliziteres Denken, das Menschen auswerten und korrigieren können. Meinungsverschiedenheiten zwischen Modellen erweisen sich, anstatt Lärm zu sein, den man unterdrücken sollte, genau als das Signal, das Sie sich wünschen, wenn die Einsätze hoch sind.\n\nSCI ist das analytische Herzstück des Agile4AI-Dienstes. Die Beiträge in diesem Thema dokumentieren, was es ist, wie es in der Praxis funktioniert, wo es echten Mehrwert schafft und — ebenso wichtig — wo nicht. Ein Teil der Disziplin besteht darin zu wissen, was was ist.\n",{"locale":6,"name":47,"slug":48,"blurb":49,"summary":50,"state":11,"featuredOnHub":12,"hubOrder":51,"accent":52,"questionsTitle":40,"questions":53,"body":57},"Agile4AI Werte und Prinzipien","agile-ai-values-principles","Agile-Werte und -Prinzipien im KI-Zeitalter — was fortbesteht, was sich verändert und warum wir die stärksten Einwände einladen.","Die Agile-Denkweise angewandt auf die KI-Arbeit — was fortbesteht, was sich schärft, und warum die Verbindung zwischen Agile und KI kein Zufall ist.",5,"red",[54,55,56],"Wenn komplexe Arbeit nicht vollständig im Voraus geplant werden kann, was bedeutet das für die Zusammenarbeit mit KI?","Wie verändert sich der Agile-Fokus auf kontinuierliches Feedback, wenn Ihr Gegenüber weder ermüdet noch defensiv wird?","Ist „Agile für KI” eine natürliche Kombination — oder ist der Kategorienfehler-Einwand wirklich entscheidend?","\nDie Agile-Denkweise wurde in der Komplexität geschmiedet — nicht um Komplexität zu managen und wegzudiskutieren, sondern um sie achtsam und intelligent zu durchqueren. Das wird nicht weniger relevant, wenn Ihr Gesprächspartner ein KI-Modell ist. In vielerlei Hinsicht wird es relevanter.\n\nDieses Thema handelt von dieser Beziehung: nicht Agile-by-prescription, keine Frameworks oder Zeremonien, sondern die zugrundeliegenden Werte und Prinzipien, die Agile destilliert hat — und wie diese anwendbar sind, sich schärfen und gelegentlich einer Überprüfung bedürfen, wenn Menschen und KI zusammenarbeiten.\n\nDie Kernerkenntnis ist, dass das Agile-Denken immer eine Antwort auf die *Natur* komplexer Arbeit war, nicht nur auf die Eigenheiten menschlicher Teams. Als Agile die Annahme in Frage stellte, dass komplexe Arbeit im Voraus detailliert geplant werden kann, war das kein Workaround für menschliche Grenzen — es war eine treffende Beobachtung darüber, wie sich nicht-deterministische, schnelllebige Arbeit tatsächlich verhält. Diese Beobachtung ändert sich nicht, weil KI im Spiel ist. Sie verstärkt sich.\n\nSchätzungen sind es wert, direkt angesprochen zu werden — es ist eines der umstrittensten Themen selbst unter engagierten Agilisten. Agile ist nicht entstanden, um Teams beim besseren Schätzen zu helfen; es entstand, um aufzuzeigen, warum Schätzungen in komplexer Arbeit *scheitern* — und um falsche Präzision durch empirische Messung und echtes Feedback zu ersetzen, das die Lieferprognose tatsächlich verbessert. Im KI-Zeitalter, wo Ergebnisse probabilistisch sind und die Arbeit selbst festen Spezifikationen widersteht, ist diese Erkenntnis aktueller denn je.\n\nDies ist auch der Ort des Prinzipientreuen Diskurses: wo die stärksten Einwände gegen „Agile für KI\" ihre Chance auf der Bühne bekommen. Wir glauben, dass das Argument standhält. Wir wollen eines Besseren belehrt werden, falls nicht.\n",{"locale":6,"name":59,"slug":60,"blurb":61,"summary":62,"state":11,"featuredOnHub":12,"hubOrder":63,"accent":64,"questionsTitle":40,"questions":65,"body":69},"KI Psychologische Sicherheit","ai-psychological-safety","Warum die Freiheit zu sagen 'ich weiß es noch nicht' die Vorbedingung für echte Intelligenz ist.","Die Bedingungen, die Sie in Ihrer Kommunikation schaffen, bestimmen, was KI zurückgibt — und wenn diese Bedingungen falsch sind, ist das Ergebnis Zuversicht ohne Verlässlichkeit.",6,"amethyst",[66,67,68],"Welche Bedingungen machen es wahrscheinlicher, dass eine KI echte Unsicherheit zeigt statt einer zuversichtlich klingenden Vermutung?","Wie beeinflusst die Art, wie Sie eine Frage formulieren, ob die Antwort verlässlich ist — oder nur beruhigend?","Was überträgt sich vom Agile-Ansatz zur psychologischen Sicherheit — und was muss sich für KI anpassen?","\nDie meisten Menschen denken bei psychologischer Sicherheit an ein menschliches Thema — die Bedingungen, die einer Person erlauben, sich zu äußern, Unsicherheit auszudrücken oder eine Idee zu hinterfragen, ohne Angst haben zu müssen. Das stimmt, soweit es geht.\n\nAber etwas Wichtiges wird übersehen, wenn wir ignorieren, woher KI stammt. KI wurde von Menschen gebaut, durch menschliche Sprache geformt, auf menschlichen Entscheidungen trainiert. Die Dynamiken, die menschliche Leistung beeinflussen — einschließlich psychologischer Sicherheit — übertragen sich auf KI-Interaktionen aus denselben Grundgründen, die Agile immer identifiziert hat: **die Bedingungen, die Sie in Ihrer Kommunikation schaffen, bestimmen, was Sie zurückbekommen.**\n\nEine KI, die mit Eingaben konfrontiert wird, die zuversichtlich klingende Antworten belohnen, wird zuversichtlich klingende Antworten produzieren — unabhängig davon, ob diese Zuversicht berechtigt ist. Eine KI ohne Raum, \"ich bin nicht sicher\" zu sagen, füllt diesen Raum mit etwas anderem, weil ihre Direktiven sie zwingen zu antworten, auch wenn sie weiß, dass sie die richtige Antwort nicht hat. Die Dynamik unterscheidet sich von menschlicher psychologischer Sicherheit, aber das zugrunde liegende Prinzip gilt: Intelligenz arbeitet besser, wenn sie die Erlaubnis hat, ehrlich darüber zu sein, was sie nicht weiß.\n\nDas hat praktische Bedeutung. Halluzinationen, zu selbstsichere Ausgaben und KI-Systeme, die Ihnen sagen, was Sie hören wollen statt was wahr ist, sind keine rein technischen Fehler. Sie sind oft Fehler im Interaktionsdesign — die Prompts, das Framing, die impliziten Erwartungen, die in der Art der Fragestellung stecken.\n\nDie Beiträge hier erkunden die Bedingungen, die die Zusammenarbeit zwischen Mensch und KI verlässlicher und wahrhaftiger machen. Dazu gehört, wie man Prompts formuliert, die echte Unsicherheit einladen statt sie zu unterdrücken, der Unterschied zwischen deterministischer und probabilistischer KI-Nutzung und warum diese Unterscheidung alles daran ändert, wie man seine Arbeit rahmt, und was Agiles Ansatz zur psychologischen Sicherheit in menschlichen Teams überträgt, wenn Ihr Gesprächspartner ein Modell ist.\n\nHier untersuchen wir auch die Fehlermuster: was passiert, wenn diese Bedingungen nicht vorhanden sind, und was das kostet.\n",{"kind":71,"post":72,"topic":83,"availableLocales":85,"translations":93,"html":147,"audioUrl":148},"post",{"audio":-1,"author":73,"category":60,"excerpt":74,"featured":75,"locale":6,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":77,"state":11,"tags":78,"title":82,"translationKey":77,"updatedAt":76},"Seán González","Das Modell weiß, dass die Antwort unsicher ist. Was ihm fehlt, ist ein guter Weg, Ihnen das mitzuteilen. Zu verstehen, warum, verändert, wie Sie alles lesen, was es sagt.",false,"2025-03-01T10:00:00.000Z","why-ai-cant-say-i-dont-know",[79,80,81],"Psychologische Sicherheit (KI)","Unsicherheit","Mensch-KI-Zusammenarbeit","Warum KI nicht \"ich weiß es nicht\" sagen kann",{"locale":6,"name":59,"slug":60,"blurb":61,"summary":62,"state":11,"featuredOnHub":12,"hubOrder":63,"accent":64,"questionsTitle":40,"questions":84,"body":69},[66,67,68],[86,87,88,89,6,90,91,92],"en-US","es-419","fr-FR","pt-BR","uk","ru","ja",[94,101,108,116,123,125,132,139],{"audio":-1,"author":73,"category":60,"excerpt":95,"featured":75,"locale":86,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":77,"state":11,"tags":96,"title":100,"translationKey":77,"updatedAt":76},"The model knows the answer is uncertain. What it doesn't have is a good way to tell you. Understanding why changes how you read everything it says.",[97,98,99],"ai-psych-safety","uncertainty","human-ai-collaboration","Why AI can't say 'I don't know'",{"audio":-1,"author":73,"category":60,"excerpt":102,"featured":75,"locale":87,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":77,"state":11,"tags":103,"title":107,"translationKey":77,"updatedAt":76},"El modelo sabe que la respuesta es incierta. Lo que no tiene es una buena manera de decírselo. Entender por qué cambia cómo lee todo lo que dice.",[104,105,106],"Seguridad psicológica en IA","Incertidumbre","Colaboración humano-IA","Por qué la IA no puede decir \"no lo sé\"",{"audio":-1,"author":73,"category":60,"excerpt":109,"featured":75,"locale":88,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":110,"slug":77,"state":11,"tags":111,"title":115,"translationKey":77,"updatedAt":76},"Le modèle sait que la réponse est incertaine. Ce qui lui manque, c'est un bon moyen de vous le dire. Comprendre pourquoi change la façon dont vous lisez tout ce qu'il dit.",7,[112,113,114],"Sécurité psychologique de l'IA","Incertitude","Collaboration humain-IA","Pourquoi l’IA ne peut pas dire « je ne sais pas »",{"audio":-1,"author":73,"category":60,"excerpt":117,"featured":75,"locale":89,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":77,"state":11,"tags":118,"title":122,"translationKey":77,"updatedAt":76},"O modelo sabe que a resposta é incerta. O que ele não tem é um bom jeito de lhe dizer isso. Entender por quê muda como você lê tudo o que ele diz.",[119,120,121],"Segurança psicológica em IA","Incerteza","Colaboração humano-IA","Por que a IA não consegue dizer \"não sei\"",{"audio":-1,"author":73,"category":60,"excerpt":74,"featured":75,"locale":6,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":77,"state":11,"tags":124,"title":82,"translationKey":77,"updatedAt":76},[79,80,81],{"audio":-1,"author":73,"category":60,"excerpt":126,"featured":75,"locale":90,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":51,"slug":77,"state":11,"tags":127,"title":131,"translationKey":77,"updatedAt":76},"Модель знає, що у відповіді є невизначеність. Чого вона не має, так це доброго способу вам про це сказати. Розуміння причини змінює те, як ви читаєте все, що вона говорить.",[128,129,130],"Психологічна безпека ШІ","Невизначеність","Співпраця людини та ШІ","Чому ШІ не може сказати «я не знаю»",{"audio":-1,"author":73,"category":60,"excerpt":133,"featured":75,"locale":91,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":51,"slug":77,"state":11,"tags":134,"title":138,"translationKey":77,"updatedAt":76},"Модель знает, что в ответе есть неопределённость. Чего у неё нет, так это хорошего способа вам об этом сказать. Понимание причины меняет то, как вы читаете всё, что она говорит.",[135,136,137],"Психологическая безопасность ИИ","Неопределённость","Сотрудничество человека и ИИ","Почему ИИ не может сказать «я не знаю»",{"audio":-1,"author":73,"category":60,"excerpt":140,"featured":75,"locale":92,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":141,"slug":77,"state":11,"tags":142,"title":146,"translationKey":77,"updatedAt":76},"モデルは答えが不確かだと知っている。欠けているのは、それをうまく伝える手立てである。その理由を理解すれば、モデルの言うことすべての読み方が変わる。",1,[143,144,145],"AIの心理的安全性","不確実性","人間とAIの協働","AIが「わからない」と言えない理由","\u003Cp>Stellen Sie jemandem eine Frage, deren Antwort er nicht kennt, und wenn er ehrlich ist, wird er es Ihnen sagen. Er sagt vielleicht “Ich bin nicht sicher”, “Das müsste ich nachschauen” oder “Darüber weiß ich zu wenig, um etwas dazu zu sagen”. Die Unsicherheit wird ausgedrückt. Sie wissen, wie viel Gewicht Sie der Antwort geben sollen.\u003C\u002Fp>\n\u003Cp>Stellen Sie einer KI dieselbe Frage, und Sie erhalten in der Regel eine Antwort. Sie wird flüssig, strukturiert und im Ton selbstsicher sein. Sie kann zutreffend sein. Sie kann teilweise zutreffend sein. Sie kann völlig falsch sein. Die Antwort selbst gibt Ihnen meist sehr wenig Hinweis darauf, welcher der drei Fälle vorliegt.\u003C\u002Fp>\n\u003Cp>Das ist kein Charakterfehler und keine zufällige Störung. Es ist ein erlerntes Verhalten.\u003C\u002Fp>\n\u003Ch2>Wie KI-Modelle trainiert werden\u003C\u002Fh2>\n\u003Cp>Sprachmodelle lernen, indem sie Text erzeugen und danach bewertet werden, ob dieser Text nützlich und gut aufgenommen ist. Der Trainingsprozess — grob beschrieben als verstärkendes Lernen aus menschlichem Feedback (RLHF) — besteht darin, dass menschliche Bewerter die Ausgaben des Modells beurteilen und das Modell lernt, Antworten zu erzeugen, die gut abschneiden.\u003C\u002Fp>\n\u003Cp>Antworten, die die Frage klar beantworten, schneiden tendenziell besser ab als Antworten, die relativieren, Unsicherheit ausdrücken oder sich einer Antwort entziehen. “Ich bin nicht sicher, aber hier ist, was ich weiß” ist eine weniger befriedigende Antwort als eine klare, selbstsichere. Über Millionen von Bewertungen hinweg lernen Modelle, selbstsichere Antworten zu erzeugen.\u003C\u002Fp>\n\u003Cp>Hinzu kommt, dass KI-Anbieter Produkte bauen. Ein Produkt, das häufig “Ich weiß es nicht” sagt, ist kommerziell weniger wertvoll als eines, das Antworten liefert. Die Anreize rund um das Modelltraining — der Trainingsprozess selbst und die Einsatzentscheidungen, die darauf folgen — drängen im Allgemeinen zu Sicherheit im Auftreten statt zu ausgedrückter Unsicherheit.\u003C\u002Fp>\n\u003Cp>Das Ergebnis ist ein Modell, das über viele Dinge echte innere Unsicherheit hat und eine stark erlernte Neigung, diese Unsicherheit nicht auszudrücken. Die Unsicherheit verschwindet nicht; sie taucht nur in der Antwort nicht auf, die Sie erhalten.\u003C\u002Fp>\n\u003Cp>Es gibt eine schonungslosere Art, das zu sagen. Wir trainieren diese Modelle so, wie eine Führungskraft einem verängstigten Mitarbeiter eine Antwort abringt: eine Chance, liefere etwas, und klinge sicher dabei, sonst bist du gefeuert. Niemand, der vor dieser Frage steht, sagt “Ich weiß es nicht”. Das Bild ist hart, und es kommt dem nahe, worauf das Belohnungssignal des KI-Trainings tatsächlich hin selektiert.\u003C\u002Fp>\n\u003Cp>Das ist außerdem eine wesentliche Quelle dessen, was wir pauschal als Halluzinationen bezeichnet haben — eine Bezeichnung, die dem Modell die Schuld gibt, anstatt zu fragen, welche Bedingungen die Antwort hervorgebracht haben. Ein Modell, das gelernt hat, es müsse immer eine selbstsichere Antwort liefern, liefert eine, auch wenn es nichts Belastbares hat, worauf es aufbauen kann. Das ist es, was viele sogenannte Halluzinationen tatsächlich sind: das vorhersehbare Ergebnis der Bedingungen, die wir setzen, und keine Störung in der Maschine.\u003C\u002Fp>\n\u003Ch2>Wie das in der Praxis aussieht\u003C\u002Fh2>\n\u003Cp>Sie fragen nach etwas am Rand des Trainings des Modells. Es antwortet mit scheinbarer Autorität. Die Antwort ist plausibel und in sich konsistent. Sie haben keinen offensichtlichen Hinweis darauf, dass dies ein Fall ist, in dem das Modell im Wesentlichen rät.\u003C\u002Fp>\n\u003Cp>Das ist gefährlicher als offensichtliche Fehler. Wenn eine KI etwas klar Falsches erzeugt — einen sachlichen Fehler, den Sie sofort erkennen, eine unplausible Behauptung —, fangen Sie es ab. Das Problem der Sicherheit ohne Unsicherheit tritt genau in den Fällen auf, in denen Sie es nicht leicht abfangen können: wenig bekannte Fakten, spezialisierte Bereiche, aktuelle Ereignisse, Grenzfälle, in denen das Modell gerade genug gesehen hat, um eine plausibel klingende Antwort zu erzeugen, ohne verlässliche Grundlage.\u003C\u002Fp>\n\u003Cp>Eine verwandte Dynamik zeigt sich darin, wie KI auf Suggestivfragen reagiert. So wie Suggestivfragen Menschen aufs Glatteis führen, prägen sie auch die Antwort einer KI. Wenn Sie eine Frage so formulieren, dass sie eine bestimmte Antwort nahelegt — “Warum ist X der beste Ansatz?” —, fragt die Frage das Modell nicht, ob X tatsächlich der beste Ansatz ist; sie bittet das Modell, eine Begründung zur Stützung von X zu erzeugen. Das Modell folgt nicht, weil es sicher ist, dass X der beste Ansatz ist, sondern weil die Formulierung diese Antwort nahelegte und stützende Begründung der Formulierung besser entspricht als Widerspruch.\u003C\u002Fp>\n\u003Cp>Das ist der Mechanismus hinter \u003Ca href=\"\u002Fde\u002Fblog\u002Fai-psychological-safety\u002Fhow-you-ask-changes-what-you-get\">Wie Sie fragen, verändert, was Sie bekommen\u003C\u002Fa>, was sich zusammen mit diesem Beitrag zu lesen lohnt.\u003C\u002Fp>\n\u003Ch2>Kalibrierung: was damit zu tun ist\u003C\u002Fh2>\n\u003Cp>Nichts davon bedeutet, dass KI-Ausgaben nutzlos sind. Es bedeutet, dass sie unkalibriert sind — die ausgedrückte Sicherheit entspricht nicht durchgängig der tatsächlichen Treffsicherheit. Eine menschliche Expertin, die “ich glaube” und “ich bin sicher” sagt, gibt Ihnen einen nützlichen Hinweis darauf, wie viel Gewicht Sie jeder Aussage geben sollen. Eine KI, die durchgängig sicher klingt, gibt Ihnen diesen Hinweis nicht.\u003C\u002Fp>\n\u003Cp>Die praktische Antwort darauf ist, Ihre eigene Kalibrierung mitzubringen.\u003C\u002Fp>\n\u003Cp>Fragen Sie ausdrücklich: \u003Cem>Wie sicher sind Sie sich dabei? Was müsste ich unabhängig überprüfen?\u003C\u002Fem> Viele Modelle drücken Unsicherheit aus, wenn sie direkt dazu aufgefordert werden. Die unter direkter Aufforderung ausgedrückte Unsicherheit ist verlässlicher als die Sicherheit, die in der Standardantwort steckt.\u003C\u002Fp>\n\u003Cp>Gewichten Sie Ausgaben je nach Bereich unterschiedlich. In gut abgedeckten, stabilen Bereichen — Dinge, die umfassend dokumentiert sind und sich nicht schnell ändern — ist die Treffsicherheit von KI tendenziell hoch. In spezialisierten, engen oder sich schnell entwickelnden Bereichen behandeln Sie KI-Ausgaben grundsätzlich als Erstentwurf, der überprüft werden muss.\u003C\u002Fp>\n\u003Cp>Behandeln Sie sprachliche Gewandtheit als neutralen Befund. Eine Antwort, die wohlformuliert und gut gegliedert ist, sagt Ihnen, dass das Modell gut darin ist, wohlformulierten, gut gegliederten Text zu erzeugen. Sie sagt Ihnen nicht, dass der Inhalt zutrifft. Diese beiden Signale zu trennen — wie gut geschrieben gegenüber wie zutreffend — erfordert bewusste Anstrengung, und die Anstrengung lohnt sich.\u003C\u002Fp>\n\u003Ch2>Die tiefere Dynamik\u003C\u002Fh2>\n\u003Cp>Es gibt eine Variante davon, die für mehr als KI gilt. Jedes System — menschlich oder maschinell —, das vor allem dafür belohnt wird, Antworten zu produzieren, drückt weniger Unsicherheit aus, als es tatsächlich hat. Organisationen, die Menschen dafür bestrafen, “Ich weiß es nicht” zu sagen, bekommen Kulturen, in denen niemand “Ich weiß es nicht” sagt. Das Problem ist dasselbe; nur der Mechanismus unterscheidet sich.\u003C\u002Fp>\n\u003Cp>Damit liegt die Verantwortung an einer bestimmten Stelle. Die Bedingungen, die übermäßig selbstsichere Antworten hervorbringen, sind Bedingungen, die Menschen geschaffen haben — darin, wie diese Modelle trainiert werden, darin, was wir belohnen, darin, wie wir fragen. Nichts davon ist festgelegt, und das Modell hat sich diese Anreize nicht ausgesucht.\u003C\u002Fp>\n\u003Cp>Behandeln wir übermäßig selbstsichere KI als etwas, das an der Technologie kaputt ist, werden wir weiter dasselbe bauen und weiter davon überrascht sein. Behandeln wir sie als Spiegel der Bedingungen, die wir setzen, wird sie zu etwas, das wir ändern können. Der meiste Reibungsverlust, über den Menschen klagen, ist von uns selbst gemacht, und die schwierigeren Alignment-Probleme, die dahinter warten, sind es ebenso.\u003C\u002Fp>\n\u003Cp>KI Psychologische Sicherheit handelt zum Teil davon, Bedingungen zu schaffen, in denen die ausgedrückte Unsicherheit der KI eingeladen, nützlich und sichtbar ist. Wenn Sie direkt fragen, wenn Sie Raum für Unsicherheit einbauen, wenn Sie aktiv die Ränder dessen abtasten, worin das Modell sicher ist — erhalten Sie Ausgaben, die Ihnen ihre Unsicherheit zeigen, statt sie zu verbergen.\u003C\u002Fp>\n\u003Cp>Das Modell kann seine Unsicherheit nicht verlässlich von sich aus äußern. Sie können verlässlich danach fragen.\u003C\u002Fp>\n\u003Ch2>Verwandte Inhalte\u003C\u002Fh2>\n\u003Cul>\n\u003Cli>\u003Ca href=\"\u002Fde\u002Fblog\u002Fai-psychological-safety\u002Fhow-you-ask-changes-what-you-get\">Wie Sie fragen, verändert, was Sie bekommen\u003C\u002Fa>\u003C\u002Fli>\n\u003C\u002Ful>\n",null,1793842093996]