Il y a un an, une responsable de la recherche sur les garde-fous (les dispositifs censés limiter les dérapages d’un modèle) dans un des grands laboratoires d’IA a démissionné en écrivant que le monde était en danger. Cet été, un jeune chercheur passé par deux de ces laboratoires a quitté le secteur à son tour, accusant les deux boîtes de jouer avec nos vies dans leur course à une IA capable de s’améliorer elle-même. Le même jour, un responsable de recherche sur l’alignement (le travail qui vise à garder un modèle conforme aux intentions humaines) dans l’un d’eux confirmait publiquement prendre au sérieux un risque d’extinction à plus d’une chance sur dix dans la décennie qui vient. Quelques jours plus tard, le patron de ce même laboratoire publiait un texte appelant à ralentir volontairement le rythme des avancées. J’ai consacré à ce sujet un dossier documentaire en 5 points, chronologie, mouvements qui demandent de ralentir, voix extérieures, ceux qui subissent, et un effet inattendu sur le travail. Ce qui précède s’appuie dessus.
Je ne cite pas ça pour me trouver une caution extérieure. Un patron qui prêche la prudence reste un patron qui vend le produit dont il a peur, et je ne prends aucun de ces textes pour argent comptant. Mais l’aveu, venant de gens qui savent de quoi ils parlent bien mieux que moi, me touche plus qu’un rapport d’expert extérieur.
Il y a une autre voix qui vient de plus loin dans le temps et me touche autrement. Tristan Nitot, pionnier du Web ouvert en France dès la fin des années 1990 puis à la tête de Mozilla Europe à partir de 2003, alerte aujourd’hui sur l’empreinte environnementale de l’IA générative. Nos parcours n’ont rien de comparable, lui a contribué à construire une partie du Web que j’ai ensuite fait découvrir à d’autres. En effet, j’ai passé ces mêmes années, des années 1990 aux années 2010, à accompagner, former, expliquer l’usage informatique puis le numérique au sens large à des publics variés, sans jamais participer à en écrire les fondations. Mais on partage une même colonne vertébrale, informer, documenter, expliquer, mettre en débat, avec chez lui un regard tourné vers l’environnement depuis longtemps, un regard que j’essaie de porter ici à mon tour, avec des moyens plus modestes.
C’est aussi lui qui pointe un mécanisme qui me concerne directement. Il relève qu’une partie de ceux qui s’essaient à l’IA le font en espérant neutraliser la menace qu’elle fait peser sur leur métier ou leur travail. Je ne suis plus en activité, la menace sur l’emploi ne me touche donc pas de cette manière-là, mais la question reste valable sous une autre forme. Une part de mon usage tient aussi d’un réflexe, ne pas rester sur le bord de la route pendant que le monde change de vitesse, pour des raisons que j’explique dans d’autres versions du “Pourquoi?” . La lucidité questionne les choix à faire, elle les complique même un peu, ce qui n’est déjà pas si mal.
Il y a une question plus large que je ne veux pas éviter dans cette version. Quel est le monde que ma génération laisse à mes enfants et petits-enfants?
On a profité de tout ce qui vient d’être cité ici, ces mêmes outils qui nous ont facilité l’écriture, la recherche, le travail, sans toujours mesurer ce qu’ils coûtaient ailleurs ou plus tard, et l’IA générative prolonge cette histoire et l’accélére énormément en peu de temps. Je n’ai pas envie de me défausser de cette responsabilité derrière la nouveauté de l’outil, ni de minimiser les craintes qu’elle inspire pour ceux qui viendront après nous, climat, emploi, autonomie de pensée, tout est concerné à la fois. Je n’ai pas de réponse rassurante ou tranchée. J’ai seulement le sentiment que documenter ces questions et les mettre en débat, comme j’essaie de le faire ici, vaut mieux pour moi que de m’en tenir strictement éloigné.
Pour vérifier ou creuser un épisode précis : Mrinank Sharma, Jacob Coxon, l’essai de Dario Amodei.
Qui participe sans jamais être « cité au générique » ? Indice dans le dernier paragraphe de « Les autres ‘Pourquoi?’ » (lien sur la page d’accueil).