Le moratoire de 2023 : une lettre qui a marqué les esprits, mais qu’aucun laboratoire n’a suivie

Le 28 mars 2023, un peu plus de qua­tre mois après le lance­ment de Chat­G­PT, le Future of Life Insti­tute pub­lie une let­tre ouverte inti­t­ulée “Pause Giant AI Exper­i­ments”. Le texte demande à tous les lab­o­ra­toires d’IA d’in­ter­rompre immé­di­ate­ment, pen­dant au moins six mois, l’en­traîne­ment de tout sys­tème plus puis­sant que GPT‑4, le temps de dévelop­per des pro­to­coles de sécu­rité partagés et de mieux com­pren­dre les risques posés par ces “boîtes noires” imprévis­i­bles. Plus de 30 000 per­son­nes sig­nent le texte, par­mi lesquelles Yoshua Ben­gio, Elon Musk, Steve Woz­ni­ak, Stu­art Rus­sell et Yuval Noah Harari.

Une lettre qui s’inscrit dans une histoire plus longue

La let­tre ne sort pas de nulle part. Elle fait écho aux 23 principes d’Asilo­mar, étab­lis en 2017 pour pos­er un cadre éthique au développe­ment de l’IA, restés depuis de sim­ples recom­man­da­tions sans force con­traig­nante. Un arti­cle de l’IRIS (Insti­tut de rela­tions inter­na­tionales et stratégiques) souligne qu’au-delà des risques tech­nologiques immé­di­ats, un enjeu plus pro­fond se joue déjà en creux : celui d’une IA dévelop­pée dans une logique avant tout marchande, où la rentabil­ité prime sur les con­sid­éra­tions éthiques.

L’épisode Sam Altman, deux moments à ne pas confondre

Avant même la pub­li­ca­tion offi­cielle du texte, le nom de Sam Alt­man (patron d’Ope­nAI) et celui de Bill Gates appa­rais­sent briève­ment dans une ver­sion pro­vi­soire de la liste des sig­nataires. La nou­velle fait sen­sa­tion : cela reviendrait à voir Alt­man deman­der l’ar­rêt de l’en­traîne­ment de son pro­pre futur mod­èle. Le Future of Life Insti­tute con­firme rapi­de­ment qu’il s’ag­it de fauss­es sig­na­tures, retirées dès leur décou­verte, et resserre son proces­sus de véri­fi­ca­tion.

Une fois la let­tre offi­cielle­ment pub­liée, Alt­man prend posi­tion pour de bon, lors d’un événe­ment du MIT : il juge le texte “dépourvu de la plu­part des nuances tech­niques” sur les points où une pause serait réelle­ment utile, et relève qu’une ver­sion antérieure affir­mait à tort qu’Ope­nAI entraî­nait alors GPT‑5.

Le bilan, trois ans après : une sensibilisation, pas un ralentissement

Aucun lab­o­ra­toire majeur n’a respec­té la pause demandée ; le développe­ment s’est au con­traire pour­suivi sans inter­rup­tion. Deux cri­tiques for­mulées dès 2023 résu­ment bien les lim­ites struc­turelles de ce type d’ini­tia­tive : le chercheur Andrew Ng jugeait qu’ ”il n’ex­iste aucun moyen réal­iste de met­tre en œuvre un mora­toire” sans inter­ven­tion gou­verne­men­tale con­traig­nante, tan­dis que l’en­tre­pre­neur Reid Hoff­man qual­i­fi­ait la let­tre de “sig­nal de ver­tu” risquant d’al­ién­er la com­mu­nauté des développeurs dont la coopéra­tion est juste­ment néces­saire pour pro­gress­er sur la sécu­rité.

Le texte n’a donc débouché sur aucune pause effec­tive. Il a en revanche eu un effet de sen­si­bil­i­sa­tion durable, posant dans le débat pub­lic des ter­mes (risque exis­ten­tiel, course incon­trôlée, boîte noire) qui revi­en­nent con­stam­ment depuis, y com­pris dans les alertes plus récentes doc­u­men­tées ailleurs dans ce dossier.

Trois ans plus tard, le retournement

Le 28 juil­let 2026, jour de la pub­li­ca­tion de la let­tre “Pac­ing the Fron­tier” (voir la chronolo­gie de ce dossier), Sam Alt­man recon­naît dans le pod­cast “Invest Like The Best” qu’il “fau­dra peut-être ralen­tir le rythme du développe­ment de l’IA”, pour laiss­er à la société le temps de s’adapter, tout en écar­tant l’idée d’une régu­la­tion con­traig­nante ou d’un accord entre géants du secteur qui ressem­blerait à de la col­lu­sion. Un revire­ment notable, mais encore pru­dent, pour l’homme qui avait écarté le mora­toire trois ans plus tôt.

Sources

Wikipedia — Pause Giant AI Exper­i­ments: An Open Let­ter (anglais)

Siè­cle Dig­i­tal — réac­tion de Sam Alt­man en 2023

Pirate Wires — l’épisode des fauss­es sig­na­tures (anglais)

Sci­ences Ouest — dossier “Faut-il met­tre la recherche en pause ?”

IRIS France — le mora­toire et les principes d’Asilo­mar

Presse-cit­ron — le revire­ment de Sam Alt­man en 2026

Syn­thèse cri­tique et bilan (longtermwi­ki) (anglais)

Élaboré en col­lab­o­ra­tion avec Claude, util­isé ici pour rechercher, véri­fi­er les sources et doc­u­menter cet épisode.

Ne me croyez pas sur parole, ni l’IA. 🤔 Cette page peut se tromper