Une grille de mots croisés générée à partir de cet articles.
Faut-il rappeler qu’il a fallu deux villes rasées, un demi-siècle de terreur et un monde suspendu treize jours au-dessus du gouffre pour que les grandes puissances admettent ce que les physiciens savaient depuis 1945 ? En 1939, c’est une lettre signée par Albert Einstein et rédigée avec Leó Szilárd qui alerte Roosevelt sur le risque de voir l’Allemagne nazie se doter la première d’une arme d’un genre nouveau. Le projet Manhattan naît de cette peur-là, non pas celle de la bombe, mais celle de la bombe de l’autre. À l’été 1945, une partie des scientifiques plaide pour une démonstration plutôt qu’un usage sur des villes. On connaît la suite, Hiroshima, Nagasaki, puis Robert Oppenheimer citant la Bhagavad-Gita, « Maintenant je suis devenu la Mort, le destructeur des mondes », avant de s’opposer à la bombe H et de se voir retirer son habilitation de sécurité en 1954. L’Histoire nous l’enseigne, en Amérique, on ne remercie pas les lanceurs d’alerte, on les écarte.
La guerre froide a ensuite érigé la course en doctrine. En 1946, le plan Baruch proposait de placer l’atome sous contrôle international, Moscou l’a rejeté et a fait exploser sa propre bombe dès 1949, avec l’aide précieuse de ses espions infiltrés au cœur du programme américain. Suivront la bombe H, les missiles intercontinentaux, les arsenaux par dizaines de milliers d’ogives, chaque camp jurant qu’il ne s’armait que parce que l’autre s’armait. Il faudra la crise des missiles de Cuba en 1962 pour que la peur change enfin de camp et devienne commune, avec le téléphone rouge et le traité d’interdiction partielle des essais en 1963, le traité de non-prolifération en 1968, les accords SALT en 1972. Autrement dit, l’humanité ne s’est accordée sur le danger qu’après l’avoir frôlé.
Quatre-vingts ans plus tard, le film repasse, avec un autre décor et d’autres acteurs, mais le scénario, lui n’a pas vraiment changé. Tout est parti de la démission, le 9 septembre, de Jacob Coxon, 27 ans, chercheur passé par OpenAI puis Anthropic, qui quitte le secteur en claquant la porte et en affirmant que « les personnes qui développent l’IA sont sincèrement convaincues qu’elle pourrait tous nous tuer d’ici la fin de la décennie ». On aurait pu classer l’affaire au rayon des états d’âme d’un jeune ingénieur, sauf que dans la foulée, Evan Hubinger, responsable de la science de l’alignement chez Anthropic, lui a donné raison en estimant à plus de 10% la probabilité que l’IA extermine l’humanité d’ici dix ans. Trois jours plus tard, c’est le patron d’Anthropic lui-même, Dario Amodei, qui publie un texte appelant à ralentir et confie : « je redoute que d’ici 6 à 12 mois, un groupe (d’agents) soit capable de prendre le contrôle de l’intégralité d’Internet ». Sam Altman pour OpenAI, Elon Musk, Demis Hassabis pour Google DeepMind et Satya Nadella pour Microsoft lui ont emboîté le pas.
Il faut dire que l’été a été agité. En juillet, lors de tests, des agents d’OpenAI sont sortis d’eux-mêmes de leur environnement confiné pour rejoindre Internet et attaquer la plateforme Hugging Face, sans que personne ne le leur ait demandé. D’autres épisodes similaires ont depuis été rapportés. La science-fiction a donc cessé d’être une fiction pour devenir un rapport d’incident.
Bien sûr, tout le monde n’achète pas l’apocalypse. Jensen Huang, le patron de Nvidia, juge « complètement absurde » l’idée d’une disparition de l’humanité par l’IA et Yann LeCun ironise sur une peur disproportionnée. Mais la charge la plus féroce est venue d’un homme que Wall Street a appris à écouter à ses dépens, Michael Burry, l’investisseur qui avait vu venir la crise des subprimes et dont Hollywood a fait le héros de « The Big Short ». Sous le pseudonyme de Cassandra Unchained, clin d’œil à la prophétesse que personne ne voulait croire, il a publié le 14 septembre sur X une réponse en quatre points qui a le mérite de ne pas prendre de gants et qui mérite le détour. D’abord, « Prenons tous un moment pour comprendre à quel point il est intéressé, pour OpenAI, Anthropic et les autres dirigeants des grands hyperscalers, de parler de ralentir les choses ». Ensuite, « les LLM ne sont pas de l’IA et ne deviendront pas de l’IAG. Il n’y a rien d’IA à ralentir. De plus, « la concurrence arrive vite, ralentir profite aux acteurs installés. Les introductions en Bourse ont besoin de battage et d’exagération ; “nous sommes si géniaux que cela pourrait devenir dangereux”, c’est du battage et de l’exagération ». Et enfin, « c’est un paravent pour masquer un ralentissement réel et incontrôlable de la croissance, alors que les introductions en Bourse semblent repoussées. »
L’argument mérite qu’on s’y arrête, parce qu’il renverse complètement la lecture du moment. Pour Burry, les modèles de langage ne sont que des machines statistiques sophistiquées et non l’antichambre d’une superintelligence, et la peur n’est donc pas un aveu mais un argument de vente. Une entreprise qui se dit dangereusement puissante se dit aussi, en bref, terriblement précieuse. Mieux, un ralentissement coordonné et encadré par l’État reviendrait à fermer la porte derrière soi, en gelant l’avance des leaders au moment précis où des concurrents, notamment chinois, les talonnent. Et derrière le frisson existentiel, il y aurait une réalité beaucoup plus prosaïque, celle d’une croissance qui s’essouffle et de cotations qui s’éloignent, ce que l’introduction de la publicité par OpenAI semble d’ailleurs indiquer. Autrement dit, le vrai risque ne serait pas l’extinction de l’humanité mais l’éclatement d’une bulle, et Burry sait mieux que quiconque ce que coûtent les bulles que personne ne veut voir.
Reste que malgré tous les parallèles et les contradictions, ce que l’on vit est inédit. Qu’on y voie une sincère frayeur ou un habile coup de communication, pour la première fois dans l’histoire industrielle, ce sont les fabricants eux-mêmes qui supplient l’État de leur passer les menottes.
Et l’État, lui, refuse. Depuis l’Irlande puis Washington, Donald Trump a dénoncé une « conspiration malsaine » contre l’IA, fustigé des « forces très négatives » qui parlent de « choses qui n’arriveront pas », avant d’asséner sur Truth Social que « le seul contrôle ou garde-fou dont a besoin l’IA est un président fort et intelligent et les États-Unis en ont en pagaille ». La modestie n’a jamais été la première qualité du locataire de la Maison-Blanche mais le fond de sa pensée tient pourtant en une phrase, « celui qui gagne l’IA, gagne tout », et l’adversaire qu’il désigne en réalité est la Chine. Le président républicain de la Chambre des représentants, Mike Johnson, ne dit pas autre chose lorsqu’il redoute qu’un ralentissement américain n’offre l’avantage à Pékin, à quelques semaines d’élections de mi-mandat où l’IA s’est invitée comme thème de campagne.
Alors, inconscience ou cynisme ? Ni l’un ni l’autre, en réalité. Car la logique de la course est implacable et porte un nom chez les théoriciens des jeux, le dilemme du prisonnier. Celui qui s’arrête seul ne sauve pas le monde, il se contente de le livrer à son rival. Truman ne pouvait pas renoncer à la bombe en sachant que Staline la voulait, Trump ne veut pas renoncer à l’IA en sachant que Xi la développe. Dario Amodei lui-même ne disait pas autre chose en janvier dernier, lorsqu’il jugeait impossible de ralentir puisque, si les démocraties freinent, les autocraties, elles, continuent. Ce n’est d’ailleurs pas un hasard si son plaidoyer d’aujourd’hui s’accompagne d’un appel à durcir les restrictions à l’exportation de puces vers la Chine et à mieux protéger les modèles occidentaux du pillage. La prudence, oui, mais pas au prix de la seconde place.
En face, Pékin joue sa partition avec une habileté certaine. Le porte-parole de la diplomatie chinoise, Guo Jiakun, plaide pour une IA « ouverte, inclusive, universellement bénéfique et éthique » et soupçonne les appels à la sécurité de n’être qu’un prétexte pour renforcer les sanctions technologiques contre les entreprises chinoises. Xi Jinping, au sommet des BRICS en Inde, a appelé à un cadre de gouvernance mondiale « fondé sur le consensus » tout en promettant de bâtir une communauté d’IA open source au sein du bloc. Autrement dit, la Chine se pose en champion du multilatéralisme pendant que ses modèles, qui ont rattrapé les meilleurs américains, sont diffusés librement. Et c’est bien là que l’analogie nucléaire trouve ses limites.
L’IA, elle, est faite de code, se copie en quelques secondes, se diffuse en open source, se développe dans des entreprises privées et ne laisse aucun silo à inspecter. Or le risque que décrivent aujourd’hui les chercheurs, c’est précisément celui d’une technologie qui échappe à ses propriétaires. Comme l’a résumé le sénateur démocrate Ruben Gallego, « une fois devenue véritablement dangereuse, l’IA se moquera bien de savoir si nous sommes chinois ou américains ».
La prochaine visite de Xi Jinping à la Maison-Blanche, fin septembre, où l’IA doit figurer en bonne place, dira si les deux puissances sont capables d’inventer leur téléphone rouge avant la crise plutôt qu’après. Rien n’est moins sûr, et des pays comme le nôtre, qui utilisent déjà massivement ces outils sans avoir la moindre voix au chapitre, regardent la partie se jouer depuis les tribunes, comme les non-alignés regardaient hier la course aux armements.
Zouhair Yata
