Un jeune chercheur quitte l’industrie de l’IA en prononçant le mot extinction. Un responsable resté en poste lui donne raison, chiffre en main. Et nous, nous continuons de demander des recettes à la machine.
Il faut imaginer un homme de vingt-sept ans devant un écran, un mardi de septembre.
Il a passé trois ans à nourrir la machine, chez deux maisons rivales : OpenAI d’abord, Anthropic ensuite. C’est un métier neuf. On lui donne à manger tout ce que nous avons écrit depuis que nous écrivons : nos livres et nos listes de courses, nos serments, nos aveux, nos insultes de bas d’immeuble. Elle avale tout. Elle ne digère pas. Elle devient.
Ce mardi-là, l’homme écrit un message à ses collègues, se lève et s’en va. Dans le message, rapporte NBC News, il y a un mot que l’on réserve d’ordinaire aux oiseaux et aux langues anciennes : extinction.
Il s’appelle Jacob Coxon. Retenez ce nom, ou ne le retenez pas. Les noms ne comptent guère dans cette histoire. C’est une histoire de vitesse.
Il a renoncé, dit-il, à ses parts chez Anthropic, deux mois avant qu’elles ne lui tombent dans la main. Il garde, précise-t-il, celles d’OpenAI. On se moque volontiers d’un prophète. On se moque moins d’un homme qui paie, même une partie de l’addition.
Presque aussitôt, une voix lui répond, et c’est une voix de l’intérieur. Il s’appelle Evan Hubinger. Il dirige, chez Anthropic, l’équipe qui cherche comment tenir la machine. Il ne dément pas. Il confirme. « Nous croyons vraiment, sincèrement, que l’IA pourrait tuer tous les humains », écrit-il. Puis il donne un chiffre, le sien et non celui de la maison, comme on donne une heure de rendez-vous : plus de dix pour cent, d’ici dix ans. Et il ajoute, à voix plus basse, que la maison fait de son mieux, mais qu’elle n’a pas encore de plan pour tenir une superintelligence, ni l’assurance d’en trouver un.
Pas encore de plan. Relisez-le lentement. « Pas encore » voudrait être une promesse ; la suite est un aveu d’ignorance. Ce n’est pas le partant qui parle. C’est celui qui reste. La maison, elle, a répondu à CBS News par la voix d’un porte-parole : elle a « toujours été transparente » sur les bienfaits et les risques, et ses garde-fous seraient « parmi les plus solides du secteur ». Personne, donc, ne conteste le précipice ; on se dispute sur la solidité de la rambarde.
Dix pour cent. Qu’est-ce que dix pour cent ? Rien. Une peur qui a mis une cravate pour sortir. On ne calcule pas la fin du monde ; on la redoute, puis on l’arrondit. Mais en face, le chiffre rassurant, beaucoup l’affirment ; personne ne le prouve. Nous voilà avec deux ignorances ; l’une, au moins, a le courage de s’avouer.
Et que veut dire « tous les humains » ? L’expression est trop vaste, elle ne fait pas mal. Il faut la découper pour qu’elle saigne un peu. Cela veut dire : la vieille qui compte ses pièces sur le comptoir d’une supérette à Saint-Denis. L’enfant qui mord dans un abricot et jette le noyau par la fenêtre. L’homme qui monte l’escalier avec ses courses et s’arrête au deuxième pour souffler. L’odeur du pain à six heures du matin — et plus personne pour la respirer. Voilà ce que veut dire le mot.
Nous sommes revenus à notre plus ancien récit. Un fabricant, une créature, une désobéissance. Ils appellent cela l’alignement, mot de menuisier pour une affaire de théologie : faire en sorte que la créature veuille ce que veulent les humains, et non ce qu’elle se découvrirait vouloir. C’est la question de Babel. Elle n’a jamais porté sur la hauteur de la tour, mais sur la langue.
Ils savent. C’est la partie de l’histoire que je n’arrive pas à écrire calmement. Ils ne sont ni fous ni cyniques ; ils sont jeunes, brillants, polis, et ils l’écrivent eux-mêmes sur les réseaux entre deux réunions. Ils continuent quand même. Chacun avance parce que l’autre avancerait : ce n’est pas moi qui le dis, c’est Coxon, et il était dans la maison. S’il dit vrai, cette course a trouvé la plus élégante des excuses : la vertu. Ils croient, écrit-il, que personne d’autre n’agira de façon responsable, « alors ils doivent le faire eux-mêmes, malgré le risque ». Avec de bonnes intentions, bien sûr.
Une fois, pourtant, des biologistes se sont arrêtés. Ils venaient d’apprendre à couper et recoller l’ADN. C’était en 1974 : une lettre dans une revue, et des laboratoires ont suspendu d’eux-mêmes certaines expériences. Quelques mois plus tard, en 1975, ils se sont réunis à Asilomar, sur une côte californienne, face à une mer que personne, j’imagine, n’a regardée. Ils étaient plus de cent cinquante : des chercheurs surtout, quelques juristes, une poignée de journalistes. Ils sont repartis avec des règles qu’ils s’imposaient à eux-mêmes pour reprendre le travail. On cite toujours cet exemple ; on le lit rarement jusqu’au bout.
La salle était petite. Le marché n’y était pas encore assis : il attendait dans le couloir. Trois mois plus tôt, Stanford avait déposé un brevet sur la technique ; l’année d’après, une entreprise naîtrait pour en faire commerce. Mais il n’y avait pas d’actionnaires dans la salle, pas de rival à l’autre bout du monde. Aujourd’hui, la salle, c’est la terre entière. Et il y a des actionnaires dedans.
Cinq jours avant ce mardi, le droit s’en était mêlé, avec ses gros doigts. Un sénateur du Vermont, né avant Hiroshima, et un élu du Texas avaient proposé d’interdire les machines capables de nous égaler ou de nous dépasser, de geler les plus avancées en attendant des règles, et d’envoyer les contrevenants en prison pour vingt ans au plus. Ce n’est encore qu’une annonce, pas une loi ; mais une annonce dit l’époque. Ils ne s’en cachent pas : ils ont pris pour étalon les peines prévues contre ceux qui fabriquent illégalement l’arme nucléaire. Voilà où nous en sommes. Pour parler d’un logiciel, il a fallu rouvrir le vocabulaire de la bombe.
Et nous ? Nous avons appris la nouvelle entre un score de match et une alerte à la pluie. Nous l’avons lue sur le même écran, avec le même pouce. Puis nous avons redemandé à la machine une recette de gâteau au yaourt, une lettre de motivation, la traduction d’un mot que nous connaissions déjà. Elle nous a servis sans histoires. Ceux qui ont peur le disent eux-mêmes : ce n’est pas la machine d’aujourd’hui qui les empêche de dormir. C’est celle de demain.
Nous sommes ainsi. On nous annonce plus d’une chance sur dix d’ici dix ans, et nous demandons un gâteau pour ce soir.
Je ne crois pas que la fin du monde ait lieu un mardi. Je crois surtout que nous ne saurions pas la reconnaître : elle n’aurait ni sirène, ni ciel rouge, seulement des communiqués très corrects et des gens très fatigués. Ce mois de septembre n’a rien prouvé du futur. Il a démontré une chose du présent : on peut désormais nous annoncer notre disparition à visage découvert, avec un chiffre et une signature, sans que le monde s’arrête. Quelques chaises se vident dans les laboratoires, quelques élus lèvent la main à Washington, et pas un seul train ne ralentit.
Un homme de vingt-sept ans a fermé son ordinateur et s’en est allé. D’autres sont partis aussi, ces jours-là, certains pour surveiller les machines depuis le trottoir d’en face. Lui a quitté la rue. C’est peu. Dans une histoire de vitesse, c’est déjà beaucoup.
