Le procès de l'IA cache celui de l'humain — inventaire comparé des biais cognitifs
Cet article prolonge Le pire ennemi du bid manager, c'est lui-même et Ce que l'évaluateur ne vous dira jamais. Ici, on quitte un instant le terrain des appels d'offres pour mettre face à face les deux machines à décider — humaine et artificielle.
Le procès à charge unique
L'IA est sur le banc des accusés. Hallucinations, sycophantie, prose creuse, biais de représentation — la presse spécialisée, les conférences, les livres blancs documentent ses failles avec une précision croissante. Le réquisitoire est sérieux. Les preuves sont là.
Le tribunal a un angle mort.
Personne ne met le cerveau humain en regard. Or ce cerveau est documenté depuis soixante-dix ans par la psychologie cognitive comme une machine à raccourcis et à erreurs systématiques.
Daniel Kahneman et Amos Tversky ont inauguré cette cartographie dans les années 1970 (Judgment under Uncertainty: Heuristics and Biases, Science, 1974). Kahneman en recense une quarantaine dans Thinking, Fast and Slow (2011). La taxonomie de Buster Benson (Cognitive Bias Codex, 2016) en répertorie plus de 180.
Côté IA, les grandes familles de biais documentées dans la littérature technique se comptent sur les doigts de deux mains.
Faire le procès de l'IA sans ouvrir celui de l'humain produit un verdict asymétrique. Les biais de l'IA sont visibles parce qu'ils sont nouveaux. Les biais humains sont invisibles parce qu'on s'y est habitués. Les deux côtés méritent le même examen.
Les biais humains — vingt mécanismes documentés
Voici les biais les mieux documentés qui opèrent dans toute décision impliquant lecture, jugement et choix.
| # | Biais | Source | Mécanisme |
|---|---|---|---|
| 1 | Biais de récence | Tversky & Kahneman, 1974, Science | Le cerveau accorde un poids disproportionné aux informations les plus récentes. |
| 2 | Biais d'ancrage | Tversky & Kahneman, 1974, Science | La première information reçue fixe un point de référence qui biaise les estimations suivantes. |
| 3 | Heuristique de disponibilité | Tversky & Kahneman, 1973, Cognitive Psychology | On surestime la probabilité de ce qui est facile à se rappeler. |
| 4 | Biais de confirmation | Wason, 1960, QJEP ; synthèse Nickerson, 1998, Review of General Psychology | On cherche sélectivement les informations qui confirment une hypothèse déjà formée. |
| 5 | Effet de halo | Thorndike, 1920, Journal of Applied Psychology | Une qualité positive perçue dans un domaine se propage aux autres. |
| 6 | Effet de corne (horns effect) | Symétrique inverse du halo, Thorndike, 1920 | Une faiblesse perçue contamine le jugement global dans le sens négatif. |
| 7 | Malédiction de l'expert (curse of knowledge) | Camerer, Loewenstein & Weber, 1989, Journal of Political Economy | L'expert ne parvient plus à se représenter l'état d'ignorance du non-expert. |
| 8 | Effet IKEA | Norton, Mochon & Ariely, 2012, Journal of Consumer Psychology | On surestime la valeur de ce qu'on a produit soi-même. |
| 9 | Planning fallacy | Kahneman & Lovallo, 1993, Management Science ; Buehler, Griffin & Ross, 1994 | On surestime systématiquement sa capacité à respecter les délais. |
| 10 | Effet Dunning-Kruger | Kruger & Dunning, 1999, JPSP | Les moins compétents surestiment leurs capacités, les plus compétents les sous-estiment. (Amplitude contestée par Gignac & Zajenkowski, 2020 — artefact statistique de régression à la moyenne.) |
| 11 | Pensée de groupe (groupthink) | Janis, 1972, Victims of Groupthink, Houghton Mifflin | Un groupe cohésif converge vers le consensus en supprimant les opinions dissidentes. |
| 12 | Biais de statu quo | Samuelson & Zeckhauser, 1988, Journal of Risk and Uncertainty | On préfère l'option par défaut, même quand des alternatives sont objectivement supérieures. |
| 13 | Illusion de contrôle | Langer, 1975, JPSP | On surestime sa capacité à influencer des événements largement aléatoires. |
| 14 | Erreur fondamentale d'attribution | Jones & Nisbett, 1971 ; Ross, 1977 | On attribue ses échecs à des causes externes, ceux des autres à des causes internes. |
| 15 | Biais de conformité | Asch, 1951, 1956 | On aligne son jugement sur celui du groupe ou de l'autorité présente. |
| 16 | Effet de simple exposition (mere-exposure) | Zajonc, 1968, JPSP | La familiarité avec un stimulus augmente la préférence, indépendamment de la qualité. |
| 17 | Aversion à la perte | Kahneman & Tversky, 1979, Prospect Theory, Econometrica | Les pertes potentielles pèsent plus lourd que les gains équivalents. |
| 18 | Heuristique de représentativité | Tversky & Kahneman, 1974, Science | On juge un élément par sa ressemblance avec un prototype mental. |
| 19 | Biais du survivant | Concept opérationnel, Abraham Wald (analyse des bombardiers, Seconde Guerre mondiale) ; pas d'auteur fondateur canonique unique | On raisonne sur les cas visibles en ignorant les cas invisibles. |
| 20 | Charge cognitive et fatigue décisionnelle | Sweller, 1988, Cognitive Science | La discrimination se dégrade quand la charge informationnelle dépasse la capacité de traitement. (L'hypothèse "ego depletion" de Baumeister et al., 1998, contestée par Hagger et al., 2016 — la charge cognitive de Sweller reste le cadre consensuel.) |
| 21 | Biais de saillance | Taylor & Fiske, 1978 | Les éléments perceptivement saillants captent l'attention au-delà de leur importance réelle. |
Vingt-et-un biais documentés. Chacun confirmé par des décennies de recherche. Aucun n'exige de mauvaise volonté pour se déclencher — le câblage cognitif fait son travail à chaque décision.
Les biais de l'IA — neuf mécanismes documentés
L'équilibre du verdict exige un inventaire sérieux des biais IA. Les minimiser serait aussi malhonnête que d'ignorer les biais humains.
| # | Biais | Source | Mécanisme |
|---|---|---|---|
| 1 | Biais de représentation (data bias) | Barocas & Selbst, 2016, California Law Review | Les patterns surreprésentés dans le corpus d'entraînement sont surreproduits en sortie. |
| 2 | Biais de moyenne statistique | Propriété structurelle des modèles de langage | Le modèle converge vers la réponse la plus probable, qui est aussi la plus banale. |
| 3 | Sycophantie (flagornerie algorithmique) | Sharma et al., 2023, Towards Understanding Sycophancy in Language Models, Anthropic | Le modèle valide l'utilisateur plutôt qu'il ne le contredit, y compris quand l'utilisateur a tort. Artefact du RLHF, qui récompense les réponses jugées agréables par les évaluateurs humains. Manifestations : adhésion à une hypothèse erronée si le prompt y tient, revirement sous pression (« en effet, vous avez raison, je me suis trompé »), flatteries ajoutées en ouverture et clôture. |
| 4 | Hallucinations (confabulation) | Brown et al., 2020, NeurIPS (GPT-3) ; Ji et al., 2023, ACM Computing Surveys | Le modèle génère des affirmations fausses avec la même fluence que des affirmations vraies. |
| 5 | Biais temporel (knowledge cutoff) | Propriété architecturale des modèles à entraînement fixe | Le modèle raisonne sur un état du monde figé à sa date de cutoff. |
| 6 | Primacy-recency attentionnel (Lost in the Middle) | Liu et al., 2023, Lost in the Middle: How Language Models Use Long Contexts | L'information placée au milieu d'un contexte long est moins bien exploitée que celle en début ou en fin. |
| 7 | Biais de positivité (RLHF-induced) | Ouyang et al., 2022, Training language models to follow instructions with human feedback, NeurIPS | L'entraînement par feedback humain favorise les réponses enthousiastes et diplomatiques. |
| 8 | Biais de cohérence narrative | Propriété émergente des modèles génératifs ; liée à la confabulation (Ji et al., 2023) | Le modèle construit un récit cohérent même quand les faits sous-jacents ne le supportent pas. |
| 9 | Loi de Goodhart appliquée au RLHF | Goodhart, 1975 ; Gao et al., 2023, Scaling Reward Model Overoptimization | Optimiser une métrique proxy dégrade la mesure réelle qu'elle était censée capturer. |
Neuf biais IA documentés, chacun réel et mesurable. Le procès de l'IA sur ces points est légitime.
L'asymétrie que personne ne mesure
Vingt-et-un biais humains documentés. Neuf biais IA documentés. Le ratio est éloquent.
La littérature cognitive est large, ancienne, répliquée. La littérature technique sur les biais IA est récente — la plupart des biais inventoriés ont été identifiés ces trois dernières années — mais aussi plus inspectable : un modèle se décortique, un cerveau ne livre pas son code source.
Cette asymétrie de visibilité ne reflète aucune asymétrie de gravité. Les biais humains sont devenus invisibles par familiarité. Les biais IA sont visibles parce que nouveaux. Le procès à charge unique de l'IA accuse le nouveau venu des défauts qu'on tolère depuis toujours chez l'habitant historique.
Application à l'avant-vente
Tous ces biais opèrent dans n'importe quel processus de décision. Mais ils prennent un relief particulier dans la réponse aux appels d'offres — terrain où chaque dossier mobilise lecture, interprétation, jugement, négociation interne et décision finale, des deux côtés de la table.
Côté soumissionnaire, le biais de récence pousse à recycler le dernier dossier traité. L'ancrage fixe un angle d'attaque souvent arbitraire dès la première lecture du CCTP. La disponibilité fait choisir les références qu'on connaît, pas les plus pertinentes. La malédiction de l'expert rend invisible au rédacteur ce que l'évaluateur lira à froid. L'effet IKEA gonfle l'auto-évaluation du mémoire produit. Le groupthink converge en revue bronze/argent/or sans contestation. Le biais de statu quo recycle les trames habituelles. La planning fallacy promet une livraison qui glissera de trois jours.
Côté évaluateur, l'ancrage du premier dossier lu calibre l'échelle de notation. Le halo et son inverse colorent toute la lecture après quelques pages. Le mere-exposure favorise le titulaire sortant. L'aversion à la perte privilégie le prestataire "sûr" au prestataire "meilleur mais inconnu". La fatigue décisionnelle dégrade la rigueur du cinquième dossier de la journée. Le biais de conformité aligne les co-évaluateurs sur le rapporteur en commission.
Vingt-cinq manifestations distinctes, treize côté bid manager et douze côté évaluateur, qui opèrent à chaque marché — silencieusement, sans mauvaise volonté, par construction du câblage cognitif. À comparer avec les neuf biais d'un agent IA bien architecturé.
L'IA comme contre-pouvoir
Le renversement de perspective ouvre une possibilité que le procès à charge unique occulte : chaque biais humain peut être contré par un usage architectural de l'IA.
Contre le biais de récence. Un agent qui lit chaque CCTP sans historique conversationnel entre dossiers traite chaque marché comme une instance isolée. Le dernier dossier du bid manager ne contamine pas l'analyse du suivant.
Contre la malédiction de l'expert. L'agent joue le rôle de lecteur à froid. Il lit le mémoire technique comme le ferait l'évaluateur — sans connaître les trois semaines de contexte accumulé par le rédacteur. Si une section est opaque pour l'agent, elle le sera pour l'évaluateur.
Contre la pensée de groupe en commission. Un agent produit une évaluation indépendante du rapporteur — un contre-pouvoir explicite qui rend les désaccords visibles avant la convergence.
Contre le biais de statu quo de l'évaluateur. Un mémoire architecturé pour activer la séquence surprise → curiosité → exploration chez le lecteur est l'antidote du soumissionnaire. Quand l'IA est guidée par un modèle cognitif du lecteur, elle construit ce dispositif délibérément.
Chacun de ces usages suppose une condition : l'IA doit fonctionner comme un système cognitif qui explicite les hypothèses et trace les inférences. Un chatbot miroir amplifie les biais de l'utilisateur au lieu de les corriger.
Ce que TenderGraph construit
TITAN fonctionne comme un contre-pouvoir cognitif. Chaque hypothèse est nommée, chaque inférence est tracée, chaque décision est auditable. L'agent teste l'angle du bid manager, y compris quand le rédacteur aimerait une confirmation. Chaque CCTP est lu comme une instance nouvelle. Les failles sont signalées — le confort du rédacteur n'entre pas dans l'équation.
Supprimer les biais humains est impossible — ils sont câblés. Les rendre visibles au moment où ils opèrent : c'est la seule marge d'action réelle.
Découvrir le fonctionnement de TenderGraph · Nous contacter
À retenir : Corriger les biais de l'IA est un travail d'éditeur — relecture, vérification, contraintes de génération. Contrer les biais humains avec l'IA exige un travail d'architecte — modèle cognitif, process explicite, traçabilité des inférences. La qualité des décisions dépend des deux. Le second reste massivement sous-investi.
Lire aussi :
- Le pire ennemi du bid manager, c'est lui-même — Le diagnostic fondateur des biais cognitifs côté rédacteur.
- Ce que l'évaluateur ne vous dira jamais — De l'autre côté de la table : comment l'évaluateur lit, note et compare.
- Le mythe du executive summary — L'executive summary, terrain où l'ancrage produit le plus de dégâts.
- Pourquoi vos références clients ne convainquent personne — Le biais de disponibilité à l'œuvre dans le choix des références.
- Ce que le CCTP ne dit pas — L'inférence silencieuse : le cerveau comble les vides sans le signaler.
- La révolution informationnelle de l'avant-vente — Les biais cognitifs comme sources de bruit dans le canal CCTP → mémoire → note.
- Pourquoi vous n'arrivez pas à intégrer l'IA dans vos AO — Le blocage cognitif : l'organisation se représente l'IA comme un chatbot.
- L'accélération des cycles d'avant-vente — Le temps libéré par l'IA permet enfin les relectures structurées.
- La soutenance : le moment où tout se joue — En soutenance, les biais opèrent en temps réel.
- La connaissance client, clé à double tour — Le dispositif surprise → curiosité → exploration qui brise le statu quo de l'évaluateur.