Déterministe vs. probabiliste : pourquoi cela change tout

Quand vous cherchez un numéro de téléphone, vous attendez le même numéro chaque fois. Quand vous demandez à une calculatrice de multiplier deux nombres, vous attendez le même résultat, peu importe quand et combien de fois vous le demandez. Quand vous frappez un clou avec un marteau, vous attendez de toucher le clou chaque fois, et non une discussion avec le marteau à ce sujet. C’est un comportement déterministe : la même entrée produit de façon fiable la même sortie.

La plupart des outils que nous avons construits fonctionnent ainsi. La plupart des habitudes que nous avons développées pour nous servir d’outils le supposent.

L’IA ne fonctionne pas ainsi — pas du tout. L’appeler un outil installe exactement l’attente du marteau. Quelque chose qui vous rejoint dans votre propre langue, dans votre propre contexte, et répond différemment un autre jour se situe très loin de l’univers d’outils pour lequel ces habitudes ont été bâties.

Ce que probabiliste signifie en pratique

Le même prompt, posé au même modèle à des moments différents, produira souvent des réponses différentes. Les réponses peuvent être proches sur le fond — couvrir le même terrain, aboutir aux mêmes conclusions générales —, mais elles ne seront pas identiques. Et sur les questions dont la réponse est véritablement incertaine, les réponses peuvent diverger considérablement.

Est-ce un défaut ? Posez la même question à une personne des jours différents ; les réponses peuvent être proches, et elles seront rarement, voire jamais, exactement les mêmes.

Ce n’est pas un bogue de l’IA. C’est une propriété du fonctionnement des modèles d’IA : ils produisent leurs réponses en échantillonnant une distribution de probabilité sur les continuations possibles. La « température » et d’autres paramètres réglables influencent la variabilité de la sortie. Et même à des réglages faibles, les sorties sont probabilistes par nature — par conception, non par hallucination ni par accident.

Cela compte énormément pour la façon dont vous travaillez avec l’IA — et pour ce que cela signifie quand l’IA vous donne une réponse que vous n’attendiez pas.

Le décalage

L’ennui vient de l’application d’une pensée déterministe à des systèmes probabilistes.

Si vous traitez la sortie de l’IA comme une consultation fiable — poser une question, obtenir la même bonne réponse chaque fois —, vous aurez parfois raison, mais vous n’aurez aucun moyen fiable de savoir quand vous avez raison. Le modèle livrera une réponse assurée, qu’elle soit exacte ou non. Rien dans la sortie ne signale : « voici un cas où ma fiabilité est plus faible ».

Plus subtil : si vous posez une question plusieurs fois et obtenez la même réponse, cela ne veut pas dire que la réponse est correcte. Cela peut vouloir dire que vous avez trouvé une question sur laquelle le modèle est très assuré — ou que vous avez trouvé une question où les données d’entraînement ont fortement favorisé une réponse, correcte ou non.

La pensée déterministe produit aussi un mode de défaillance particulier : traiter les sorties de l’IA comme des faits sur lesquels bâtir plutôt que comme un raisonnement à évaluer. Si vous utilisez la réponse d’un modèle comme entrée d’une analyse ultérieure — sans vérifier si cette réponse était fiable —, les erreurs s’accumulent. Plus vous avancez sur une fondation peut-être fausse, plus il faut de travail pour revenir en arrière.

Travailler de façon probabiliste

Le passage à une pensée probabiliste change votre manière d’aborder la collaboration avec l’IA.

• Vous vérifiez aux points d’inflexion. Pas chaque sortie, mais les affirmations qui comptent — surtout les affirmations factuelles, les données précises ou les conclusions sur lesquelles vous allez bâtir. La vérification indépendante est le contrôle qu’exigent les systèmes probabilistes.

• Vous tenez les sorties avec la prise qui convient. Certaines sorties d’IA peuvent être utilisées directement ; d’autres devraient être traitées comme des premiers jets ou des points de départ. Calibrer lesquelles sont lesquelles est une compétence qui vaut d’être développée.

• Vous utilisez la variation comme information. Si vous posez une question de plusieurs manières différentes et obtenez des réponses cohérentes, cette convergence a du sens. Si vous obtenez des réponses différentes, cette divergence en a tout autant — elle vous dit quelque chose sur l’incertitude de la question elle-même, ou des données, de l’architecture ou du modèle.

• Vous structurez pour l’incertitude. Cela rejoint directement la sécurité psychologique de l’IA : demander d’une manière qui donne au modèle les moyens de dire ce dont il n’est pas sûr, plutôt qu’un cadrage qui le pousse à paraître sûr pour la seule beauté d’une réponse nette ou rapide.

Le présupposé déterministe est profondément inscrit dans la façon dont la plupart des gens abordent les outils. Le problème commence quand nous voyons l’IA comme un outil, et s’aggrave quand nous la voyons comme un outil déterministe — les deux sont des symptômes de notre mauvaise compréhension de l’IA. Dès que vous reconnaissez de quel genre de système il s’agit réellement — et ajustez votre manière de l’aborder —, la relation se stabilise. Vous cessez d’attendre un marteau et commencez à lire la variation ; la friction s’écoule hors de l’échange, et les réponses que vous recevez en sont meilleures.