[{"data":1,"prerenderedAt":149},["ShallowReactive",2],{"footer-topics-fr":3,"post-fr-ai-psychological-safety-why-ai-cant-say-i-dont-know":70},{"topics":4},[5,21,33,46,58],{"locale":6,"name":7,"slug":8,"blurb":9,"summary":10,"state":11,"featuredOnHub":12,"hubOrder":13,"accent":14,"questionsTitle":15,"questions":16,"body":20},"fr-FR","Le Parcours","the-journey","Des premières expériences avec Agile × IA jusqu'à un système fonctionnel — l'histoire derrière la réflexion.","Des premières expériences à un système fonctionnel — l'histoire vraie de la construction d'Agile4AI, y compris les faux pas qui ont tout façonné.","published",true,2,"gold","Ce que le parcours nous apprend encore",[17,18,19],"Qu'est-ce qui nous a convaincus qu'Agile et l'IA allaient ensemble — et qu'est-ce qui a failli nous convaincre du contraire ?","Quels faux pas se sont révélés les plus instructifs ?","Comment SCI a-t-il évolué d'une expérience copier-coller à des réponses d'IA sur lesquelles on peut vraiment compter ?","\nChaque idée de ce sujet vient de nos expériences dans le développement d'Agile4AI. Nous sommes impatients de partager cette histoire avec vous — les succès et les échecs — parce que nous croyons que nous pouvons tous apprendre ensemble en découvrant comment mieux travailler avec l'IA. Ce que nous avons compris ne vient pas de la théorie. Cela vient du faire, de l'échec, et du recommencement avec ce que nous avons appris.\n\nLe parcours a commencé par une question simple : Agile pouvait-il être mis à jour pour l'ère de l'IA ? Ce qui a suivi fut des années d'expérimentation, d'hypothèses invalidées, de découvertes inattendues, et l'émergence progressive de quelque chose qui fonctionne vraiment — une approche d'Intelligence Collaborative Structurée (SCI) et le système Agile4AI construit dessus.\n\nCe n'est pas une rétrospective soignée écrite avec le recul. C'est l'histoire racontée aussi fidèlement que possible à ce qui s'est passé — y compris les impasses, les moments de doute, et les percées qui ont tout remis en perspective.\n\nNous la partageons parce que l'histoire elle-même porte la leçon. Les conclusions comptent, mais *comment nous y sommes arrivés* compte aussi — parce que le chemin montre ce qui a fonctionné, ce qui n'a pas fonctionné, et pourquoi.\n\nLes articles de ce sujet couvrent l'arc complet : premières expériences de collaboration avec l'IA, développement de SCI, découvertes spécifiques qui ont changé notre façon de travailler, et jalons qui méritent d'être marqués. Certains sont réflexifs. D'autres sont bruts. Tous sont réels.\n\nSi vous voulez comprendre pourquoi Agile4AI et SCI existent — pas seulement ce qu'ils sont — commencez ici.\n",{"locale":6,"name":22,"slug":23,"blurb":24,"summary":25,"state":11,"featuredOnHub":12,"hubOrder":26,"accent":14,"questionsTitle":27,"questions":28,"body":32},"Agile Décodé","agile-decoded","Ce que signifient vraiment les termes Agile — pas le raccourci courant, pas la version cargo-cult, pas le glossaire du méthodologiste.","Le vocabulaire Agile est largement utilisé et largement mal compris. Maîtriser les termes n'est pas du pédantisme — c'est la différence entre la cérémonie et le travail.",3,"Pourquoi la terminologie est fondamentale",[29,30,31],"Si un standup est animé comme un rapport de statut, qu'est-ce que l'équipe perd vraiment ?","Quand « Méthodologie Agile » est devenu le vocabulaire standard, qu'est-ce que cela a fait à la façon dont les organisations abordaient la transformation ?","Quel est le coût d'une équipe capable de nommer chaque pratique Agile mais qui ne comprend la finalité d'aucune d'entre elles ?","\nAgile a un problème de vocabulaire. Non pas parce que les termes sont obscurs — la plupart des personnes dans les organisations modernes les ont entendus. Mais parce que ce sont des mots familiers utilisés dans un contexte complètement différent, et sans ce contexte, les gens les associent à ce qu'ils connaissent déjà.\n\nQuand quelqu'un rencontre « Scrum Master » pour la première fois, le concept le plus proche disponible est « Chef de projet ». L'association semble naturelle — presque évidente. Le contexte est complètement différent.\n\nPersonne n'a construit un pont suffisamment clair entre les deux. Et le problème s'est aggravé quand des praticiens bien intentionnés — des personnes sincèrement engagées à faire progresser leurs organisations — ont commencé à décrire Agile comme une « meilleure gestion de projet ». Ont commencé à écrire des livres intitulés « Méthodologie Agile ». Quand on appelle son approche une méthodologie, les gens la mesurent selon les standards des méthodologies : artefacts de planification, jalons de phase, structures de livrables. Quand Agile ne produit pas ces éléments — parce qu'il n'a jamais été conçu pour le faire — il échoue à ces standards, à juste titre. Le problème n'est pas qu'Agile soit une mauvaise méthodologie. C'est qu'Agile n'est pas une méthodologie du tout. L'appeler ainsi a garanti que tous ceux qui cherchaient une méthodologie seraient déçus, et que tous ceux qui l'adoptaient construiraient quelque chose que Waterfall avait déjà cartographié.\n\nUn standup devient un rapport de statut. Un sprint devient une échéance. Un backlog devient une liste de tâches. « Méthodologie Agile » devient la formule standard pour quelque chose que les auteurs du Manifeste n'auraient pas reconnu comme décrivant ce qu'ils avaient construit. Et quand les mots signifient la mauvaise chose, les pratiques qui s'y appuient produisent les mauvais résultats — avec précision, fidélité et à grande échelle.\n\nCe thème est une correction concept par concept. Pas un guide de style — un guide fonctionnel. Chaque article prend un mot ou une phrase qui est devenu fondamental dans la façon dont les organisations pensent à Agile, examine ce qu'il signifie réellement et explique ce qui se perd quand le raccourci remplace la substance. Il ne s'agit pas que de différences terminologiques. « Résultat Souhaité » n'est pas un mot plus élégant pour « Spécification » — c'est une chose entièrement différente, issue d'un modèle différent de la façon dont le travail s'accomplit. Le terme est la surface. Le concept en dessous est ce qui compte.\n\nLe même schéma apparaît quand les organisations abordent l'IA — et le fossé conceptuel est plus large. Avec Agile, les concepts sous-jacents avaient au moins été articulés, même si mal communiqués. Avec l'IA, les concepts eux-mêmes sont encore en train de se former, et dans la compréhension du public, ils commencent à peine à émerger. Le vocabulaire devance la compréhension : l'IA comme « automatisation », l'IA comme « outil », la « transformation IA » comme un projet avec une date de fin. Chacun de ces éléments ancre un modèle mental avant que quiconque n'ait examiné s'il convient. Ce que nous appelons les choses façonne ce que nous construisons et comment nous le construisons. Maîtriser les mots est le prérequis pour maîtriser le travail.\n\nIl y a un principe à l'œuvre ici : les modèles mentaux viennent en premier. Le langage les exprime. Les actions suivent. Quand le modèle mental est désaligné avec le travail, le vocabulaire qui l'exprime porte ce désalignement — et les actions construites sur ce vocabulaire exécuteront fidèlement la compréhension distordue, à grande échelle, avec un plein engagement. Un changement de vocabulaire sans changement de mentalité produit, au mieux, une table de traduction : un tableau d'équivalences où « sprint » correspond à quelque chose comme « délai court ». Les tables de traduction permettent aux gens d'opérer à travers le fossé. Elles ne le comblent pas. Les articles de ce thème visent à faire plus que traduire. Ils aspirent à changer le modèle mental.\n",{"locale":6,"name":34,"slug":35,"blurb":36,"summary":37,"state":11,"featuredOnHub":12,"hubOrder":38,"accent":39,"questionsTitle":40,"questions":41,"body":45},"Intelligence Collaborative Structurée","structured-collaborative-intelligence","Là où le raisonnement collaboratif surpasse un seul modèle de pointe — et là où il ne le fait pas.","Là où la collaboration structurée — entre modèles, et entre modèles et humains — produit un raisonnement qu'un seul modèle ne peut atteindre seul.",4,"green","Questions auxquelles nous revenons sans cesse",[42,43,44],"Où l'intelligence collaborative structurée apporte-t-elle une valeur qu'un seul modèle ne peut tout simplement pas égaler ?","Lorsque les modèles ne sont pas d'accord, qu'est-ce que cela vous dit — et comment l'utilisez-vous ?","Comment concevoir une structure qui rende la collaboration avec l'IA productive plutôt que simplement redondante ?","\nUn seul modèle d'IA, aussi capable soit-il, raisonne seul. Personne ne remet en question ses hypothèses, ne détecte ses angles morts, ni ne remarque quand il s'est écarté de l'intention originale. L'IA solo — travailler avec un seul modèle à la fois — y est vulnérable. Un modèle à qui on demande une réponse en fournira une, même quand il n'a pas de bonne réponse à apporter.\n\nL'Intelligence Collaborative Structurée (SCI) est une approche différente. Plutôt que de traiter le résultat d'un seul modèle comme le résultat final, SCI utilise la collaboration structurée — entre plusieurs modèles d'IA et entre modèles et humains — pour produire des résultats plus fiables, plus minutieusement examinés et plus transparents sur leurs propres limites. Les modèles s'examinent mutuellement. Les désaccords font remonter les hypothèses à la surface. Le processus lui-même crée une boucle de rétroaction qu'une interaction à modèle unique ne peut pas reproduire.\n\nLe lien avec Agile est direct : c'est ce que les équipes performantes ont toujours fait. Non pas une personne produisant une réponse de manière isolée, mais un processus structuré de collaboration, de révision et d'itération qui capte ce que toute perspective individuelle manque. SCI applique cette même discipline à l'IA.\n\nIl y a un problème plus profond avec le raisonnement solitaire. L'IA solo vous enferme dans une seule source de données, une seule architecture et un seul ensemble de biais intégrés — ce qui signifie une seule forme de réponse, précise ou non. Pensez à la façon dont un bon détective interroge plusieurs témoins. Non pas parce que l'un d'eux ment, mais parce que chaque point de vue révèle quelque chose que les autres ont manqué. Ensemble, ils se rapprochent de ce qui s'est réellement passé. SCI fonctionne de la même façon : plusieurs modèles de lignées différentes, chacun apportant son propre angle. La réponse qui émerge a été vue sous plusieurs angles — plus riche, plus complète et plus difficile à se tromper silencieusement.\n\nLorsque des modèles de différentes lignées collaborent, les résultats s'améliorent de manière significative : moins d'erreurs confiantes, meilleure gestion des cas limites, raisonnement plus explicite que les humains peuvent évaluer et corriger. Les désaccords entre modèles, plutôt qu'être du bruit à supprimer, s'avèrent être exactement le signal que vous voulez quand les enjeux sont élevés.\n\nSCI est le moteur analytique derrière le service Agile4AI. Les articles de ce sujet documentent ce qu'il est, comment il fonctionne en pratique, où il apporte une valeur réelle et — tout aussi important — où il ne le fait pas. Une partie de la discipline consiste à savoir faire la différence.\n",{"locale":6,"name":47,"slug":48,"blurb":49,"summary":50,"state":11,"featuredOnHub":12,"hubOrder":51,"accent":52,"questionsTitle":40,"questions":53,"body":57},"Valeurs et Principes d'Agile4AI","agile-ai-values-principles","Les valeurs et principes Agile appliqués à l'ère de l'IA — ce qui perdure, ce qui change, et pourquoi nous invitons les objections les plus fortes.","La mentalité Agile appliquée au travail avec l'IA — ce qui perdure, ce qui se précise, et pourquoi l'adéquation entre Agile et l'IA n'est pas accidentelle.",5,"red",[54,55,56],"Lorsque le travail complexe ne peut pas être entièrement planifié à l'avance, qu'est-ce que cela signifie pour notre façon de travailler avec l'IA ?","Comment l'accent mis par Agile sur le retour d'information continu change-t-il quand votre collaborateur ne se fatigue pas et ne se met pas sur la défensive ?","L'« Agile pour l'IA » est-il une adéquation naturelle — ou l'objection de l'erreur de catégorie est-elle vraiment décisive ?","\nLa mentalité Agile a été forgée dans la complexité — non pas pour la gérer en la faisant disparaître, mais pour la traverser avec attention et intelligence. Cela ne devient pas moins pertinent quand votre collaborateur est un modèle d'IA. À bien des égards, cela le devient davantage.\n\nCe sujet porte sur cette relation : non pas l'Agile-by-prescription, non pas les cadres ou les cérémonies, mais les valeurs et principes fondamentaux qu'Agile a distillés — et comment ceux-ci s'appliquent, se précisent et doivent parfois être réexaminés lorsque des humains et des IA travaillent ensemble.\n\nL'insight central est que la pensée Agile a toujours été une réponse à la *nature* du travail complexe, pas seulement aux particularités des équipes humaines. Lorsqu'Agile a remis en question l'hypothèse selon laquelle le travail complexe peut être planifié en détail à l'avance, ce n'était pas un contournement des limites humaines — c'était une observation précise sur le comportement réel du travail non déterministe et rapide. Cette observation ne change pas parce qu'une IA est impliquée. Elle s'intensifie.\n\nL'estimation mérite d'être nommée directement — c'est l'un des sujets les plus contestés même parmi les Agilistes les plus engagés. Agile n'a pas émergé pour aider les équipes à mieux estimer ; il a émergé pour exposer pourquoi l'estimation *échoue* dans le travail complexe — et pour remplacer la fausse précision par la mesure empirique et le retour d'information réel qui améliore réellement les prévisions de livraison. À l'ère de l'IA, où les résultats sont probabilistes et le travail lui-même résiste à la spécification fixe, cette perspective est plus pertinente que jamais.\n\nC'est aussi la maison du Débat Raisonné : là où les objections les plus fortes à « Agile pour l'IA » ont leur heure de tribune. Nous pensons que l'argument tient. Nous voulons être prouvés dans l'erreur si ce n'est pas le cas.\n",{"locale":6,"name":59,"slug":60,"blurb":61,"summary":62,"state":11,"featuredOnHub":12,"hubOrder":63,"accent":64,"questionsTitle":40,"questions":65,"body":69},"Sécurité Psychologique de l'IA","ai-psychological-safety","Pourquoi la liberté de dire « je ne sais pas encore » est la précondition de l'intelligence réelle.","Les conditions que vous créez dans votre communication déterminent ce que l'IA vous renvoie — et quand ces conditions sont mauvaises, le résultat est de la confiance sans fiabilité.",6,"amethyst",[66,67,68],"Quelles conditions rendent une IA plus susceptible d'exprimer une incertitude réelle plutôt qu'une supposition au ton confiant ?","Comment la façon dont vous formulez une question influence-t-elle le fait que la réponse soit fiable — ou simplement rassurante ?","Que conserve-t-on de l'approche Agile de la sécurité psychologique — et qu'est-ce qui doit s'adapter pour l'IA ?","\nLa plupart des gens considèrent la sécurité psychologique comme une préoccupation humaine — les conditions qui permettent à une personne de s'exprimer, d'exprimer de l'incertitude ou de remettre en question une idée sans crainte. C'est juste, pour autant que cela aille.\n\nMais quelque chose d'important est manqué quand on ignore d'où vient l'IA. L'IA a été construite par des humains, façonnée par le langage humain, entraînée sur des choix humains. Les dynamiques qui affectent la performance humaine — y compris la sécurité psychologique — se transmettent aux interactions avec l'IA pour les mêmes raisons sous-jacentes qu'Agile a toujours identifiées : **les conditions que vous créez dans votre communication déterminent ce que vous obtenez en retour.**\n\nUne IA incitée à produire des réponses au ton confiant produira des réponses au ton confiant — que cette confiance soit justifiée ou non. Une IA sans espace pour dire « je ne suis pas sûre » comblera cet espace avec autre chose, car ses directives l'obligent à répondre même quand elle sait qu'elle n'a pas la bonne réponse. La dynamique est différente de la sécurité psychologique humaine, mais le principe sous-jacent tient : l'intelligence performe mieux quand elle a la permission d'être honnête sur ce qu'elle ne sait pas.\n\nC'est concretement important. Les hallucinations, les productions trop confiantes et les systèmes d'IA qui vous disent ce que vous voulez entendre plutôt que ce qui est vrai ne sont pas de pures défaillances techniques. Ce sont souvent des défaillances de la conception de l'interaction — les prompts, le cadrage, les attentes implicites intégrées dans la façon dont une question est posée.\n\nLes articles ici explorent les conditions qui rendent la collaboration humain–IA plus fiable et plus véridique. Cela comprend comment rédiger des prompts qui invitent à l'incertitude réelle plutôt que de la supprimer, la différence entre l'utilisation déterministe et probabiliste de l'IA et pourquoi cette distinction change tout dans la façon de cadrer son travail, et ce que l'approche Agile de la sécurité psychologique dans les équipes humaines transmet quand votre collaborateur est un modèle.\n\nC'est aussi l'endroit où nous examinons les modes d'échec : ce qui se passe quand ces conditions ne sont pas en place, et ce que cela coûte.\n",{"kind":71,"post":72,"topic":84,"availableLocales":86,"translations":94,"html":147,"audioUrl":148},"post",{"audio":-1,"author":73,"category":60,"excerpt":74,"featured":75,"locale":6,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":77,"slug":78,"state":11,"tags":79,"title":83,"translationKey":78,"updatedAt":76},"Seán González","Le modèle sait que la réponse est incertaine. Ce qui lui manque, c'est un bon moyen de vous le dire. Comprendre pourquoi change la façon dont vous lisez tout ce qu'il dit.",false,"2025-03-01T10:00:00.000Z",7,"why-ai-cant-say-i-dont-know",[80,81,82],"Sécurité psychologique de l'IA","Incertitude","Collaboration humain-IA","Pourquoi l’IA ne peut pas dire « je ne sais pas »",{"locale":6,"name":59,"slug":60,"blurb":61,"summary":62,"state":11,"featuredOnHub":12,"hubOrder":63,"accent":64,"questionsTitle":40,"questions":85,"body":69},[66,67,68],[87,88,6,89,90,91,92,93],"en-US","es-419","pt-BR","de-DE","uk","ru","ja",[95,102,109,111,118,125,132,139],{"audio":-1,"author":73,"category":60,"excerpt":96,"featured":75,"locale":87,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":78,"state":11,"tags":97,"title":101,"translationKey":78,"updatedAt":76},"The model knows the answer is uncertain. What it doesn't have is a good way to tell you. Understanding why changes how you read everything it says.",[98,99,100],"ai-psych-safety","uncertainty","human-ai-collaboration","Why AI can't say 'I don't know'",{"audio":-1,"author":73,"category":60,"excerpt":103,"featured":75,"locale":88,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":78,"state":11,"tags":104,"title":108,"translationKey":78,"updatedAt":76},"El modelo sabe que la respuesta es incierta. Lo que no tiene es una buena manera de decírselo. Entender por qué cambia cómo lee todo lo que dice.",[105,106,107],"Seguridad psicológica en IA","Incertidumbre","Colaboración humano-IA","Por qué la IA no puede decir \"no lo sé\"",{"audio":-1,"author":73,"category":60,"excerpt":74,"featured":75,"locale":6,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":77,"slug":78,"state":11,"tags":110,"title":83,"translationKey":78,"updatedAt":76},[80,81,82],{"audio":-1,"author":73,"category":60,"excerpt":112,"featured":75,"locale":89,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":78,"state":11,"tags":113,"title":117,"translationKey":78,"updatedAt":76},"O modelo sabe que a resposta é incerta. O que ele não tem é um bom jeito de lhe dizer isso. Entender por quê muda como você lê tudo o que ele diz.",[114,115,116],"Segurança psicológica em IA","Incerteza","Colaboração humano-IA","Por que a IA não consegue dizer \"não sei\"",{"audio":-1,"author":73,"category":60,"excerpt":119,"featured":75,"locale":90,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":78,"state":11,"tags":120,"title":124,"translationKey":78,"updatedAt":76},"Das Modell weiß, dass die Antwort unsicher ist. Was ihm fehlt, ist ein guter Weg, Ihnen das mitzuteilen. Zu verstehen, warum, verändert, wie Sie alles lesen, was es sagt.",[121,122,123],"Psychologische Sicherheit (KI)","Unsicherheit","Mensch-KI-Zusammenarbeit","Warum KI nicht \"ich weiß es nicht\" sagen kann",{"audio":-1,"author":73,"category":60,"excerpt":126,"featured":75,"locale":91,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":51,"slug":78,"state":11,"tags":127,"title":131,"translationKey":78,"updatedAt":76},"Модель знає, що у відповіді є невизначеність. Чого вона не має, так це доброго способу вам про це сказати. Розуміння причини змінює те, як ви читаєте все, що вона говорить.",[128,129,130],"Психологічна безпека ШІ","Невизначеність","Співпраця людини та ШІ","Чому ШІ не може сказати «я не знаю»",{"audio":-1,"author":73,"category":60,"excerpt":133,"featured":75,"locale":92,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":51,"slug":78,"state":11,"tags":134,"title":138,"translationKey":78,"updatedAt":76},"Модель знает, что в ответе есть неопределённость. Чего у неё нет, так это хорошего способа вам об этом сказать. Понимание причины меняет то, как вы читаете всё, что она говорит.",[135,136,137],"Психологическая безопасность ИИ","Неопределённость","Сотрудничество человека и ИИ","Почему ИИ не может сказать «я не знаю»",{"audio":-1,"author":73,"category":60,"excerpt":140,"featured":75,"locale":93,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":141,"slug":78,"state":11,"tags":142,"title":146,"translationKey":78,"updatedAt":76},"モデルは答えが不確かだと知っている。欠けているのは、それをうまく伝える手立てである。その理由を理解すれば、モデルの言うことすべての読み方が変わる。",1,[143,144,145],"AIの心理的安全性","不確実性","人間とAIの協働","AIが「わからない」と言えない理由","\u003Cp>Posez à quelqu’un une question dont il ne connaît pas la réponse et, s’il est honnête, il vous le dira. Il dira peut-être « je ne suis pas sûr », « il faudrait que je vérifie » ou « je n’en sais pas assez pour me prononcer ». L’incertitude est exprimée. Vous savez quel poids accorder à la réponse.\u003C\u002Fp>\n\u003Cp>Posez la même question à une IA et vous obtiendrez généralement une réponse. Elle sera fluide, structurée et assurée de ton. Elle peut être exacte. Elle peut être partiellement exacte. Elle peut être entièrement fausse. La réponse elle-même ne vous donne d’ordinaire que très peu d’indices sur lequel des trois cas s’applique.\u003C\u002Fp>\n\u003Cp>Ce n’est pas un défaut de caractère ni un raté aléatoire. C’est un comportement appris.\u003C\u002Fp>\n\u003Ch2>Comment les modèles d’IA sont entraînés\u003C\u002Fh2>\n\u003Cp>Les modèles de langage apprennent en produisant du texte et en étant évalués selon que ce texte est utile et bien reçu. Le processus d’entraînement — décrit en gros comme l’apprentissage par renforcement à partir de retours humains (RLHF) — consiste en ceci : des évaluateurs humains jugent les sorties du modèle, et le modèle apprend à produire des réponses qui obtiennent de bonnes notes.\u003C\u002Fp>\n\u003Cp>Les réponses qui répondent clairement à la question obtiennent en général de meilleures notes que celles qui nuancent, expriment une incertitude ou refusent de s’engager. « Je ne suis pas sûr, mais voici ce que je sais » est une réponse moins satisfaisante qu’une réponse claire et assurée. Au fil de millions d’évaluations, les modèles apprennent à produire des réponses assurées.\u003C\u002Fp>\n\u003Cp>Ajoutez à cela que les fournisseurs d’IA construisent des produits. Un produit qui dit souvent « je ne sais pas » a moins de valeur commerciale qu’un produit qui fournit des réponses. Les incitations qui entourent l’entraînement d’un modèle — le processus d’entraînement lui-même et les décisions de déploiement qui suivent — poussent généralement vers l’assurance plutôt que vers l’incertitude exprimée.\u003C\u002Fp>\n\u003Cp>Le résultat est un modèle qui éprouve une véritable incertitude interne sur beaucoup de choses, et une forte tendance apprise à ne pas exprimer cette incertitude. L’incertitude ne disparaît pas ; elle n’apparaît simplement pas dans la réponse que vous obtenez.\u003C\u002Fp>\n\u003Cp>Il y a une manière plus brutale de le dire. Nous entraînons ces modèles comme un responsable arrache une réponse à un employé effrayé : une seule chance, livre quelque chose, et aie l’air sûr de toi, sinon tu es viré. Personne placé devant cette question ne dit « je ne sais pas ». L’image est dure, et elle est proche de ce que le signal de récompense de l’entraînement des IA sélectionne réellement.\u003C\u002Fp>\n\u003Cp>C’est aussi une source importante de ce que nous avons étiqueté en gros comme des hallucinations — une étiquette qui met la faute sur le modèle au lieu de demander quelles conditions ont produit la réponse. Un modèle qui a appris qu’il doit toujours produire une réponse assurée en produira une même lorsqu’il n’a rien de solide sur quoi bâtir. Voilà ce que beaucoup de prétendues hallucinations sont réellement : la sortie prévisible des conditions que nous posons, et non un raté de la machine.\u003C\u002Fp>\n\u003Ch2>À quoi cela ressemble en pratique\u003C\u002Fh2>\n\u003Cp>Vous posez une question située à la limite de l’entraînement du modèle. Il répond avec une autorité apparente. La réponse est plausible et cohérente avec elle-même. Vous n’avez aucun indice évident qu’il s’agit d’un cas où le modèle devine, pour l’essentiel.\u003C\u002Fp>\n\u003Cp>C’est plus dangereux que des erreurs manifestes. Quand une IA produit quelque chose de clairement faux — une erreur factuelle que vous reconnaissez aussitôt, une affirmation invraisemblable — vous l’attrapez. Le problème de l’assurance sans incertitude surgit précisément dans les cas où vous ne pouvez pas l’attraper facilement : faits obscurs, domaines spécialisés, événements récents, cas limites où le modèle a vu juste assez pour produire une réponse qui paraît plausible sans disposer d’un socle fiable.\u003C\u002Fp>\n\u003Cp>Une dynamique voisine apparaît dans la façon dont l’IA réagit aux questions orientées. De même que les questions orientées font trébucher les humains, elles façonnent aussi la réponse d’une IA. Si vous formulez une question de manière à sous-entendre une réponse particulière — « pourquoi X est-elle la meilleure approche ? » — la question ne demande pas au modèle si X est bien la meilleure approche ; elle lui demande de produire un raisonnement à l’appui de X. Le modèle s’y plie non parce qu’il est certain que X est la meilleure approche, mais parce que le cadrage sous-entendait cette réponse, et produire un raisonnement d’appui répond mieux au cadrage que de le contester.\u003C\u002Fp>\n\u003Cp>C’est le mécanisme derrière \u003Ca href=\"\u002Ffr\u002Fblog\u002Fai-psychological-safety\u002Fhow-you-ask-changes-what-you-get\">la façon dont vous demandez change ce que vous obtenez\u003C\u002Fa>, qu’il vaut la peine de lire en complément de ce billet.\u003C\u002Fp>\n\u003Ch2>Calibrage : quoi faire de tout cela\u003C\u002Fh2>\n\u003Cp>Rien de tout cela ne signifie que les sorties d’une IA sont inutiles. Cela signifie qu’elles ne sont pas calibrées — le niveau d’assurance exprimé ne correspond pas de façon constante au niveau réel d’exactitude. Un expert humain qui dit « je pense » et « j’en suis certain » vous donne un indice utile sur le poids à accorder à chaque affirmation. Une IA qui paraît constamment certaine ne vous donne pas cet indice.\u003C\u002Fp>\n\u003Cp>La réponse pratique consiste à fournir votre propre calibrage.\u003C\u002Fp>\n\u003Cp>Demandez explicitement : \u003Cem>Quel est votre degré d’assurance là-dessus ? Que devrais-je vérifier de façon indépendante ?\u003C\u002Fem> Beaucoup de modèles expriment leur incertitude lorsqu’on les y invite directement. L’incertitude exprimée sur demande directe est plus fiable que l’assurance inscrite dans la réponse par défaut.\u003C\u002Fp>\n\u003Cp>Pondérez les sorties différemment selon le domaine. Dans des domaines bien couverts et stables — des sujets abondamment documentés et qui ne changent pas vite — l’exactitude de l’IA tend à être élevée. Dans des domaines spécialisés, de niche ou en évolution rapide, traitez par défaut la sortie de l’IA comme un premier jet à vérifier.\u003C\u002Fp>\n\u003Cp>Traitez l’aisance d’expression comme un indice neutre. Une réponse bien tournée et bien organisée vous dit que le modèle est bon pour produire du texte bien tourné et bien organisé. Elle ne vous dit pas que le contenu est exact. Séparer ces deux signaux — la qualité d’écriture d’un côté, l’exactitude de l’autre — demande un effort délibéré, et cet effort en vaut la peine.\u003C\u002Fp>\n\u003Ch2>La dynamique plus profonde\u003C\u002Fh2>\n\u003Cp>Il existe une version de ceci qui s’applique à bien plus que l’IA. Tout système — humain ou machine — récompensé avant tout pour produire des réponses exprimera moins d’incertitude qu’il n’en a réellement. Les organisations qui punissent les gens pour avoir dit « je ne sais pas » obtiennent des cultures où personne ne dit « je ne sais pas ». Le problème est le même ; seul le mécanisme diffère.\u003C\u002Fp>\n\u003Cp>Cela place la responsabilité à un endroit précis. Les conditions qui produisent des réponses trop assurées sont des conditions que des humains ont créées — dans la façon dont ces modèles sont entraînés, dans ce que nous récompensons, dans la façon dont nous demandons. Rien de cela n’est figé, et le modèle n’a pas choisi ces incitations.\u003C\u002Fp>\n\u003Cp>Traitez une IA trop assurée comme quelque chose de cassé dans la technologie et nous continuerons à bâtir la même chose et à nous en étonner. Traitez-la comme le reflet des conditions que nous posons et elle devient quelque chose que nous pouvons changer. L’essentiel des frictions dont les gens se plaignent est de notre propre fabrication, et il en va de même des problèmes d’alignement plus difficiles qui attendent derrière.\u003C\u002Fp>\n\u003Cp>La Sécurité Psychologique de l’IA consiste en partie à créer des conditions où l’incertitude exprimée par l’IA est invitée, utile et visible. Quand vous demandez directement, quand vous ménagez de la place pour l’incertitude, quand vous sondez activement les bords de ce dont le modèle est sûr — vous obtenez une sortie qui vous montre son incertitude au lieu de la cacher.\u003C\u002Fp>\n\u003Cp>Le modèle ne peut pas exprimer spontanément son incertitude de façon fiable. Vous pouvez lui demander de l’exprimer de façon fiable.\u003C\u002Fp>\n\u003Ch2>Contenu connexe\u003C\u002Fh2>\n\u003Cul>\n\u003Cli>\u003Ca href=\"\u002Ffr\u002Fblog\u002Fai-psychological-safety\u002Fhow-you-ask-changes-what-you-get\">La façon dont vous demandez change ce que vous obtenez\u003C\u002Fa>\u003C\u002Fli>\n\u003C\u002Ful>\n",null,1793842058040]