Ça me fait toujours “drôle” quand je découvre que je peux me sentir “proche” sur un aspect avec une personne qui n’est probablement pas “ma tasse de thé”. Depuis quelques jours je constate cela avec Samuel Fitoussi.
Avant d’aller plus loin, un mot sur “slop”, terme que Fitoussi emploie plus bas. Par extension de son sens anglais (la pâtée qu’on donne aux cochons), il désigne le contenu produit en masse par l’IA, générique et sans réelle valeur ajoutée, écoulé sans que le lecteur ou le spectateur en soit informé. J’en avais déjà documenté un cousin, appliqué à d’autres sujets que la littérature : voir l’annexe en fin de page.
Qui est Samuel Fitoussi, derrière le compte “Balance ton Claude”, qui accuse Thélyson Orélien d’avoir utilisé l’IA pour écrire son roman ? (lien France Info)
sorti du contexte, de la méthode et des divers enjeux et manipulations, j’ai trouvé le texte de cette personne très “utile” pour expliquer ce qui est en train de se passer…
Je le reproduis ci-dessous. C’est moi qui ai choisi de mettre en gras certains passages.
Quelques mots sur « Balance ton Claude », projet à travers lequel nous avons révélé que « C’était ça ou mourir », livre phénomène de la rentrée littéraire, est sans doute très largement rédigé par une IA.
1) Je n’étais pas seul ; il s’agissait d’un projet collectif. Les autres révéleront leur identité en temps voulu s’ils le souhaitent.
2) À tous ceux qui nous reprochent d’avoir nui à Orélien, pensez plutôt à l’auteur qui a passé des centaines d’heures sur son manuscrit pour écrire un magnifique livre, qui aurait mérité le Goncourt, et qui ne l’aurait pas eu. Aurait-il été plus juste de laisser cet auteur être floué ? Et des milliers de lecteurs être trahis ? Nous avons évidemment de la compassion pour les jours difficiles que doit vivre Orélien, et nous espérons qu’il est soutenu. Mais il nous a semblé être de notre devoir de lancer l’alerte.
3) Quelles étaient nos motivations ? Ceux qui me lisent savent que je mène, depuis un an, une réflexion sur les effets de l’IA sur nos vies. Pourtant plutôt techno-optimiste, je redoute qu’après plusieurs millénaires de civilisation fondée sur l’écrit, l’IA provoque la disparition de la lecture et de l’écriture1.
L’IA peut, et pourra de plus en plus (les tics d’écriture disparaîtront avec le progrès des modèles) produire des œuvres exceptionnelles, en quasi autonomie. Le contenu humain sera (est déjà ?) noyé dans un océan de contenu IA d’excellente qualité. Un jour l’écrivain humain se dira : à quoi bon ? À quoi bon passer des centaines d’heures à me documenter, à réfléchir, à choisir mes mots pour être dans tous les cas soupçonné d’avoir copié-collé ChatGPT (parce que certains trompent leurs lecteurs, le soupçon se généralisera) et pour ne pas être lu (l’attention humaine est une ressource finie ; plus elle est absorbée par du contenu IA, moins elle est allouée aux productions humaines) ?
Pour préserver les incitations à écrire dans ce nouveau monde, il faudrait que les lecteurs puissent savoir s’ils ont affaire au texte d’un humain ou d’un robot, pour pouvoir, si tel est leur souhait, allouer disproportionnellement leur attention aux productions humaines. Je chéris donc l’existence de Pangram (entreprise dans laquelle je ne suis pas investisseur, même si cette théorie est amusante), tout en redoutant que le logiciel soit dépassé par les progrès des modèles. En disant ça, je ne pense pas uniquement aux écrivains, mais avant tout aux lecteurs. Les lecteurs semblent aimer lire un roman rédigé par une IA, mais uniquement… lorsqu’ils ne savent pas qu’il s’agit d’IA ! Or on peut collectivement s’aveugler un certain temps, mais le jour où la plupart des écrivains humains auront abandonné, le jour où chaque lecteur comprendra qu’il fait face, avec une forte probabilité, à la prose de ChatGPT, il cessera sans doute de lire. En effet, ce qui comble, dans la lecture d’un bon roman, voire d’un essai, n’est pas uniquement le fait de lire une suite de mots intéressante (même si cela compte !), mais aussi le fait de lire des mots qu’un autre humain a pensés, pesés, qui reflètent sa subjectivité et sa singularité. Et ainsi d’entrer, par cette lecture, en contact avec un autre esprit. L’être humain n’est pas fait pour rester longtemps isolé de ses semblables, or la lecture d’un roman rédigé par un humain le lie à l’un de ses semblables ; la lecture d’un roman produit par ChatGPT ne fait rien de tel.
C’est pourquoi il est important de dénoncer les auteurs qui proposent un copié-collé de ChatGPT en prétendant qu’il s’agit de leur plume. Non seulement ils trahissent le pacte moral qui les lie à leur lectorat, mais en plus, ils contribuent à retirer, de façon déloyale (car ils mentent sur la nature de leur produit !) des lecteurs à ceux qui font encore l’effort de choisir leurs mots (et donc à décourager cet effort). Et surtout, ils contribuent à la généralisation du soupçon, ils érodent la présomption d’humanité dont bénéficie un texte face à de potentiels lecteurs. Ils précipitent l’avènement d’un monde où plus personne ne lira et n’écrira, avec toutes les régressions cognitives et culturelles que cela implique. (Je m’étonne d’ailleurs de voir certains écrivains ne pas comprendre qu’en défendant la démarche d’Orélien, ils scient la branche qui a permis à la littérature d’exister.) Entendons-nous bien : si des producteurs de contenu IA souhaitent concurrencer les écrivains humains, c’est leur droit le plus strict du moment qu’ils ne mentent pas sur la nature de leur travail et qu’ils laissent donc les lecteurs choisir en connaissance de cause. S’il se trouve que dans ces conditions, l’attention des lecteurs se porte tout de même massivement vers l’artificiel plutôt que l’authentique, les écrivains humains auront perdu à la loyale. Mais les réactions à l’affaire Orélien montrent que les lecteurs semblent avoir une forte préférence pour l’authentique.
Le projet est donc né de ces préoccupations. Ni les idées politiques d’Orélien ni le thème de son livre ne nous importaient (ceux qui me lisent savent que mon combat contre le slop n’a rien de politiquement partisan). Il se trouve que des lecteurs attentifs nous ont parlé d’importants soupçons sur ce livre en particulier. Nous avons testé beaucoup d’autres livres ; aucun n’atteignait de tels scores d’IA.
4) Je pense (cela n’engage que moi, pas les autres membres du collectif) qu’un mauvais procès est fait aux jurys des prix littéraires et aux critiques ayant encensé ce livre. Le style du texte pouvait être pénible pour quiconque a l’habitude de discuter avec des LLM, mais pour les autres, l’admiration est compréhensible : si chaque mot de ce livre avait été choisi par un humain, il aurait sans doute fallu saluer une forme de génie dans le rythme de cette écriture, soutenue ainsi sur 250 pages. L’angle le plus profond dans cette polémique n’est pas la naïveté des jurys (nous serons tous, à un moment ou un autre, dépassés par les progrès de ces modèles), mais justement, cette vitesse de progression, illustrée ici par la capacité des IA non seulement à passer le test de Turing2 mais à remporter nos prix littéraires les plus prestigieux. Cela donne le vertige et soulève des questions existentielles sur la place de l’homme dans ce nouveau monde.3
5) Merci à tous les médias, parmi lesquels Libération, France Info, France Inter, Le Huffington Post ou Les Échos, qui ont fait un travail d’enquête honnête et rigoureux pour établir la fiabilité de Pangram.
1 — Lire à ce propos l’article “De Gutenberg à l’IA” sur ce blog
2 — Lire à ce propos l’article “Les hivers de l’IA” sur ce blog
3 — Lire à ce propos le dossier “Ceux qui s’inquiètent” sur ce blog
Annexe : slop littéraire et clonage éditorial, cousins mais pas jumeaux
Le slop dont parle Fitoussi vise un roman précis, faussement signé, avec un ressort littéraire (un prix, une réputation d’auteur). J’ai documenté un phénomène voisin dans “Le clonage éditorial”: des pages Facebook qui produisent en masse des articles au gabarit IA reconnaissable (accroche émotionnelle, visuel léché, structure fixe, cadence impossible pour un humain seul), sur des sujets interchangeables (rugby, féminisme, demain autre chose), sans identité éditoriale. Le ressort n’est pas littéraire mais économique : la monétisation par les vues et l’engagement. Dans les deux cas, même absence de transparence, même exploitation de la confiance du lecteur envers ce qu’il croit humain.
Cet article n’échappe pas à la règle : je l’ai écrit avec l’aide de Claude, comme la plupart des textes de ce site, contrairement à “La boucle est bouclée ?”
Ce texte referme d’ailleurs une boucle comme expliqué dans l’article en lien ci-dessus. C’est plus précisément le texte de Samuel Fitoussi, l’un des artisans de cette affaire, qui la referme un peu plus.
Pour comprendre pourquoi je préfère en parler plutôt que d’ignorer (boycotter l’IA) et de me taire, voir mes différentes versions du Pourquoi.
Et bien sûr “comme d’hab !”
Ne me croyez pas sur parole, ni l’IA. 🤔
Cette page peut se tromper