Quand les modèles ne sont pas d'accord

L’instinct, quand deux modèles d’IA vous donnent des réponses différentes, est de déterminer laquelle a raison. Choisir le « meilleur » modèle, ou en interroger un troisième pour trancher. Traiter le désaccord comme un bruit à supprimer sur le chemin de la « bonne » réponse.

Cet instinct mérite d’être questionné. C’est un piège qui nous engage dans la mauvaise direction avec l’IA.

Ce que Solo-AI ne peut jamais vous montrer

Avant de parler de ce qu’il faut faire du désaccord entre modèles, il vaut la peine de nommer une chose qui échappe à la plupart des discussions sur la fiabilité de l’IA : avec un seul modèle, vous ne savez pas ce que vous ne savez pas.

Une réponse de Solo-AI arrive assurée et complète. Ce que vous ne pouvez pas voir, c’est si un autre modèle aurait répondu autrement : s’il y a une considération qu’il a manquée, une hypothèse qu’il a posée et qui ne tient pas, une partie du problème où la réponse est véritablement contestée, un trou dans ses données d’entraînement ou un biais dans son architecture. Cette incertitude existe, que vous puissiez l’observer ou non. Solo-AI la maintient simplement invisible — par conception.

Et cette conception a un versant demande. Les consommateurs demandent à l’IA des réponses justes, non des réponses calibrées, et c’est l’assurance que cette demande récompense : un ton d’autorité et de certitude déterministe, dont l’architecture ne peut garantir ni l’un ni l’autre. Répondre à cette demande coûte moins cher que de l’expliquer, et ce qu’on ajuste est donc le sentiment de fiabilité d’une réponse plutôt que sa fiabilité.

La limite n’est pas que Solo-AI se trompe. C’est qu’il ne vous donne aucun moyen de situer là où il pourrait se tromper. Et une visibilité limitée, dans les situations à fort enjeu, se traduit directement en risque. La recherche de réponses « justes » les rend donc plus risquées, non plus sûres : du réconfort maintenant, payé par un désalignement plus tard. Énoncé aussi platement, ce n’est pas un échange que quiconque accepterait.

Ce que le désaccord signale réellement

Quand deux modèles raisonnent sur la même question et aboutissent à des réponses différentes, quelque chose de réel se produit. Le désaccord est un repère — il pointe vers une partie du problème où la réponse n’est pas tranchée.

Cela peut vouloir dire que la question était ambiguë et que chaque modèle a levé l’ambiguïté autrement. Cela peut vouloir dire que les modèles ont puisé dans des parties différentes de leur entraînement et fait apparaître des éléments ou des perspectives véritablement différents. Cela peut vouloir dire qu’un modèle a posé une hypothèse que l’autre n’a pas posée, et que cette hypothèse compte.

Dans chacun de ces cas, le désaccord vous dit quelque chose d’utile. Pas « l’une de ces réponses est fausse » — c’est peut-être vrai, et ce n’est pas le plus intéressant. Le plus intéressant est : pourquoi ces modèles raisonnent-ils différemment, et que révèle cette différence sur le problème ?

Lire le désaccord

Tous les désaccords entre modèles ne sont pas également utiles. Une part du bon usage de l’Intelligence Collaborative Structurée (SCI) consiste à développer un jugement sur ce que signifie un désaccord.

Certains désaccords sont superficiels. Les modèles peuvent produire des formulations différentes ou faire surgir des exemples différents tout en convergeant sur le même point de fond. Ce n’est pas un désaccord sur lequel passer du temps : c’est une variation de style.

D’autres désaccords sont de fond. Quand les modèles diffèrent sur une affirmation factuelle, sur le poids à donner à une considération, sur le caractère significatif d’un risque, ou sur ce qu’est vraiment la question centrale — voilà un désaccord qui mérite de l’attention. Il signifie que vous regardez une partie du problème où la réponse dépend d’un jugement que les modèles ne peuvent pas fournir dans des conversations Solo-AI isolées.

C’est exactement la partie du problème où votre jugement doit intervenir.

Qu’en faire

L’objectif n’est pas d’éliminer le désaccord. C’est de s’en servir — pour réduire le risque.

Quand les modèles divergent sur un point de fond, nommez le désaccord explicitement. Que dit chaque modèle ? Quelles hypothèses ou quels éléments conduiraient à chaque réponse ? Quelle réponse tient le mieux dans les conditions concrètes de votre situation réelle ?

Parfois vous constaterez qu’un modèle a clairement raison et que l’autre a commis une erreur ou travaillé à partir d’une hypothèse fausse. C’est utile : vous avez attrapé une erreur avant qu’elle ne devienne une décision.

Parfois vous constaterez que les deux modèles ont raison dans des contextes différents, et que le désaccord éclaire en fait une ambiguïté réelle dans votre question. C’est utile aussi : cela veut dire qu’il vous faut être plus clair sur ce que vous demandez avant d’obtenir une réponse fiable.

Et parfois le désaccord fera surgir une considération à laquelle vous n’aviez pas pensé. C’est le résultat le plus précieux : le genre de chose qui n’apparaît que lorsque des raisonnements indépendants rencontrent le même problème sous des angles différents.

C’est pourquoi, dans SCI, le désaccord entre modèles n’est pas un problème à résoudre au plus vite. C’est un signal à lire attentivement — et un signal que vous ne pouvez recevoir que lorsqu’il y a plus d’un esprit dans la pièce.