Cher lecteur, chère lectrice qui a la curiosité de lire cette page : tu es arrivé ici parce qu’un article que tu viens de lire, ici ou ailleurs sur ce réseau de sites, a été élaboré avec l’aide d’une IA, Claude. Cette page ne sert pas à m’excuser, ni à excuser l’outil. Elle sert à te dire clairement ce que je sais de ses limites, ce que je sais des miennes, et ce que ça change pour toi.
Ce que disent (ou ne disent pas) les IA sur leurs propres limites
J’ai fait le test. Toutes les IA grand public n’affichent pas, à un moment ou un autre, une mention du type « je peux faire des erreurs, vérifiez mes réponses ». Gemini et Claude le font. Mais ce n’est pas systématique, et ça varie beaucoup d’un outil à l’autre : je n’ai par exemple pas retrouvé cette mention dans l’application mobile de Mistral (Le Chat) ni dans Perplexity, à vérifier par toi-même si le sujet t’intéresse. Quand j’ai posé la question directement à ChatGPT, sa réponse a été plus nuancée que ce que j’attendais : il ne met pas d’avertissement automatique en fin de message, mais il dit devoir signaler explicitement quand une information est incertaine, ambiguë, récente ou mal sourcée, plutôt que de la présenter comme un fait acquis. Autrement dit : l’absence de mention ne garantit rien, et sa présence ne garantit rien non plus. Ce n’est pas une case à cocher qui protège qui que ce soit, ni le lecteur ni l’IA.
J’ai quand à moi mené mes propres tests, rien à voir avec les test de FLI (lire ici). Mais ils permettent à des “utilisateurs ordinaires” de constater le fonctionnement simple d’une IA, ses réponses et ses justifications.
Ceux qui me connaissent ne seront pas surpris que j’ai choisi le rubgy comme sujet d’examen: L’IA et les Brennus
Ce que je peux te dire, moi
Je pratique ce que j’appelle ma « schizophrénie assumée » : j’utilise l’IA trop à mon goût, et donc beaucoup trop pour ses opposants absolus, tout en documentant ses dérapages et ses limites en toute transparence, quand je les repère. Ce n’est pas une posture de prudence de façade. C’est un choix de travail : je choisis Claude, en me disant que c’est la moins pire, ou la plus docile et performante selon mes objectifs, en fermant les yeux sur son empreinte carbone et la mienne à l’utiliser. Cette lucidité-là fait partie du contrat.
Deux types d’erreurs peuvent se glisser dans ce que tu lis ici :
- Les miennes : un biais de sélection dans les sources que je choisis de citer, une conclusion trop rapide, un point de vue que j’ai privilégié sans le signaler.
- Celles de l’IA : une affirmation formulée avec assurance mais fausse ou datée, une source mal comprise, un raisonnement qui semble solide mais ne l’est pas.
Ces deux types d’erreurs ne sont pas symétriques : la mienne engage mon jugement, celle de l’IA engage sa fiabilité statistique. Mais le résultat pour toi est le même : ne pas prendre ce qui est écrit pour argent comptant.
Douter, oui. Tout mettre sur le même plan, non.
Je m’intéresse depuis longtemps à la manière dont se forment et se propagent les théories complotistes, celle des platistes en particulier, un exemple assez consensuel pour illustrer le mécanisme sans rouvrir un débat sensible. Ce qui frappe, dans ces théories, ce n’est pas le manque d’arguments : c’est un raisonnement qui se protège de tout ce qui pourrait le contredire. Chaque preuve contraire devient la preuve d’un complot plus vaste.
C’est ce mécanisme-là que je veux éviter, dans un sens comme dans l’autre. Douter, se poser la question « et si je me trompais », c’est ce qui permet de corriger une erreur quand on la découvre. Le relativisme (« on ne sait jamais rien », « tout se vaut ») fait l’inverse : il dispense de vérifier, puisque de toute façon rien n’est plus fiable que rien. Un platiste doute très fort, mais il ne se laisse jamais corriger. C’est cette différence-là que je te demande de garder en tête en lisant cette page : vérifier n’est pas douter de tout, c’est justement ce qui permet de ne pas s’enfermer dans une conviction fausse.
Ce que ça change, concrètement
- Si une affirmation est chiffrée, datée, ou attribuée à une source précise, c’est vérifiable, alors vérifie-la.
- Si un article te semble trancher un débat qui, ailleurs, semble encore ouvert, méfie-toi.
- Si je cite l’IA sans reformuler ni recouper, considère que c’est une hypothèse de travail, pas une conclusion.
- Croiser tes sources ne veut pas dire tout remettre en doute à égalité. Une étude publiée et une rumeur de forum n’ont pas le même poids.
Pour aller plus loin
Cette page fait écho à un travail plus large que je mène autour de la fiabilité et de la transparence des IA, comme la question de savoir si les mentions d’avertissement sur leur fiabilité relèvent d’une vraie protection ou d’un alibi bien commode. Je tiens à jour, au fil de mes propres usages, des comptes rendus détaillés sur les particularités et les limites d’usage de Claude.
Par ailleurs, j’essaie de ne pas sombrer dans une nouvelle maladie que je m’inventerais : la « pareidolie¹ IA », cette obsession de voir l’empreinte de l’IA dans tout ce qui m’entoure, et dans les médias en particulier.