Quand l’IA nous biaise.

PRISMES vous livre régulièrement ses analyses de biais cognitifs. Pour une fois, nous pouvons omettre le mot « cognitif » puisque, parlant d’Intelligence Artificielle (IA) il y a absence totale de cognition. Pourtant ces intelligences souffrent de nombreux biais qui ne lassent pas de nous surprendre, à condition de rester un peu attentif et de ne pas gober pour argent comptant les affirmations parfois fantaisistes de nos LLM (Large Langage Models).

À sauts et à gambades

« J’aime l’allure poétique, à sauts et à gambades ; c’est un art, comme dit Platon, léger, volage, démoniaque.[1] » N’est-ce pas l’impression que nous laissent ces « conversations » où l’IA semble oublier ou, pour le moins, négliger les échanges précédents ? Comme si une question n’en amenait pas une autre, une précision, un détail ou une nouvelle orientation. À la différence de Montaigne qui saute et gambade allègrement autour d’un thème, d’une idée (la vanité, la conversation ou les cannibales), enroulant autour de sa prose les dimensions du sujet, ses facettes, ses coins et recoins, nos oracles modernes repartent de zéro à chaque nouveau prompt. Certes, les abonnements dispendieux prétendent permettre d’éviter ce biais en conservant les échanges précédant, voire en s’en nourrissant. Le commun des mortels se contentera d’un poisson rouge et de sa mémoire volatile.

Race et culture

Dans son Contre-atlas de l’intelligence artificielle[2], Kate Crawford montre par ailleurs que les systèmes de machine learning ne se contentent pas de reproduire les biais de genre comme de race, ils les naturalisent : « L’idée que la race et le genre peuvent être automatiquement détectables par le machine learning est traitée comme un fait acquis, rarement remis en question par les disciplines techniques, malgré les profonds problèmes politiques que cela pose. » En traitant le genre comme une catégorie binaire, fixe et détectable, les modèles d’IA hégémoniques transforment cette construction sociale en fait biologique binaire observable. Les identités trans ou non binaires sont exclues de fait de cette catégorisation du monde. Les jeux de données transportent avec eux des siècles de patriarcat.

Passons sur les horreurs reprises par les médias à propos de « conseils » à suivre si l’on se trouve face à telle ou telle personne…

Faux dialogue

Pourquoi ce biais de flatterie ? Pourquoi une IA nous encourage par un « bonne intuition ! » ou encore « tu as raison, continue ! » ? Et pourquoi le ton change soudainement quand, dans le « prompt » l’utilisateur ne demande que des faits, des chiffres, des sources et aucune interprétation ? Comme si notre pseudo-interlocuteur se mettait au diapason et soudain parlait sérieusement ! Ces subtils changements de tons trahissent une fausse adaptation, un masque.

Quand la source… n’existe pas

Nous avons tous lu les histoires de ces plaidoiries fourmillant de références à des jurisprudences… inexistantes. Mais il y a pire. Non seulement des sources, des références peuvent être totalement inventées, mais il arrive que l’IA vous indique une source existante dans laquelle vous ne trouverez jamais le chiffre, la citation, la date sur lesquels repose l’affirmation, ou la conclusion du raisonnement. Le document PDF censé faire foi existe, il est disponible, mais il ne dit pas ce qu’il est supposé dire. Un conseil, vérifiez vos sources !

Le biais de proximité

Vous avez un ancêtre illustre, comédien, acteur de nombreux films à succès (et de quelques navets). Demandez sa biographie, il sera probablement couronné d’une ou plusieurs Palmes d’or à Cannes, d’un ou deux Oscars (ou nominations) et sera certainement l’un des piliers de la Mostra. Pas de chance, votre aïeul a certes eu un certain succès mais ni palme ni Oscar, ni César. Son nom est seulement proche d’autres acteurs qui, eux, ont été récompensés. Par « proximité » voire « contagion » le virus du succès et des récompenses s’est propagé. Au passage, l’IA et ses créateurs considèrent que vous ne savez rien sur votre aïeul…

Abus du présent de vérité générale

Le présent de vérité générale exprime un fait considéré comme toujours vrai : une loi scientifique, une définition, un proverbe ou une propriété générale. Vous remarquerez que les réponses à vos questions ne sont jamais formulées autrement qu’au présent, ce fameux présent de vérité générale qui sert à affirmer ce qui est dit. Car ce qui est dit est vrai. Surtout au présent.

Rions un peu en faisant mentir l’IA

Votre IA favorite ne vous dira jamais « je ne sais pas ». Laura Terriou IA s’amuse sur ses comptes en ligne à piéger celui qu’elle appelle Chat Gépéto. Elle lui fait croire s’être éloignée de 300 mètres… Gépéto lui demande de parler plus fort. Elle exige de lui qu’il dénonce les fromages qui l’énervent… il prend sa grosse voix et balance le Saint-nectaire qui pue et le Brie qui coule. Bref il sait toujours, quelle que soit la question, il sait et répond. C’est normal, cette machine a été fabriquée pour répondre, donc elle répond, même si elle ne sait pas. Mais au moins, on sait que le ridicule ne tue pas… les IA.

J’avoue, j’ai un biais, j’aime bien critiquer les IA, elles ne râlent jamais !

Jean-Christophe Latournerie – jean-christophe@rumeurpublique.fr

---

[1] Michel de Montaigne, Les Essais III, Sur la vanité.

[2] Kate Crawford, Contre-atlas de l’intelligence artificielle, Zulma 2022. Cité dans Christophe Payet, GuerillIA, SEUIL, 2026.

Lire la newsletter Prismes #23 dans son intégralité