Au cours des dernières semaines, les craintes d’un risque catastrophique lié à l’IA se sont véritablement généralisées.
Cette panique a été déclenchée par plusieurs informations marquantes, mais surtout par une publication virale d’un ancien chercheur d’Anthropic, Jacob Coxon, qui a publié un fil de discussion sur X pour avertir le public : « Les personnes qui développent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup de pub. »
Il a ensuite multiplié les interventions médiatiques sur CNN, NBC et Fox News, où il a précisé que :
« À l’heure actuelle, il n’y a aucun risque d’extinction. Avec les modèles actuels, le pire qu’ils puissent faire est peut-être de pirater un système, ce qui pourrait causer d’importants dégâts aux infrastructures, mais ils ne sont pas assez intelligents pour nous surpasser à un niveau susceptible d’entraîner notre extinction. »
Coxon n’a cité aucun projet qui devrait être arrêté, n’a divulgué aucune information provenant de l’intérieur d’Anthropic et, de manière générale, n’a suggéré aucune mesure concrète qui pourrait être prise pour éviter ce scénario catastrophe. Néanmoins, la BBC a publié des titres tels que « Plus de 10 % de chances que l’IA puisse tuer tous les humains », le Free Press a déclaré que « Oui, l’IA pourrait vraiment tous nous tuer », et The Guardian a titré « Des chercheurs d’Anthropic affirment que l’IA pourrait provoquer l’extinction de l’humanité d’ici 2030 ».
La reprise totalement acritique par les médias des affirmations de certains chercheurs en IA a, on le comprend, fait frissonner de nombreuses personnes, alors qu’elles tentent d’accepter encore un autre cauchemar existentiel dont il faut s’inquiéter sous un capitalisme parvenu à sa période de décadence sénile.
Mais ces craintes d’une apocalypse imminente provoquée par l’IA reposent-elles sur des fondements réels ?
Les arguments en faveur d’une fin du monde provoquée par l’IA
La réponse à la question de savoir comment exactement l’IA va tous nous tuer varie selon la personne à qui l’on pose la question. Que ce soit par le biais d’une IA concevant un nouveau super-virus mortel, transformant nos infrastructures en armes contre nous, ou dupant les humains pour les amener à déclencher une guerre thermonucléaire, les experts admettent que cela nécessiterait que cette technologie devienne bien plus sophistiquée qu’elle ne l’est actuellement, au point de se soustraire au contrôle humain.
La véritable question concernant la fin du monde provoquée par l’IA est donc celle que Jacob Coxon a identifiée dans ses entretiens :
« Ce que je trouve le plus effrayant, c’est que l’IA soit utilisée pour se rendre elle-même plus intelligente. […] On peut prendre une IA et lui confier le problème de la recherche sur l’IA. On obtient alors ce qu’on appelle une “explosion d’intelligence” ».
L’argument soulevé par Coxon n’est pas nouveau dans la communauté de l’apprentissage automatique, où il est connu sous le nom de « problème de l’auto-amélioration récursive » (RSI, de l’anglais Recursive Self-Improvement).
À première vue, l’idée de la RSI semble alarmante, évoquant des visions de science-fiction de longue date sur l’asservissement par les machines. Cependant, au vu de l’état actuel de la technologie de l’IA, cela reste impossible. De nombreux facteurs contraires et goulots d’étranglement limitent strictement le rythme des progrès de l’IA. Plus fondamentalement, le concept d’une « explosion d’intelligence » exponentielle repose sur une conception philosophique erronée du fonctionnement réel de l’intelligence artificielle moderne.
L’intelligence générale ?
Les progrès spectaculaires de ces modèles depuis la sortie de ChatGPT en 2022 découlent directement des lois d’échelle neuronales. À la fin des années 2010, les chercheurs ont observé que les performances de l’apprentissage automatique pouvaient être améliorées de manière constante simplement en augmentant de manière exponentielle la taille des modèles et les volumes de données d’entraînement. La « leçon amère » de l’apprentissage automatique était que, plutôt que de s’appuyer sur des innovations architecturales ou algorithmiques, multiplier par 10, 100 ou 1 000 les données et la puissance de calcul utilisées pour entraîner un modèle constituait le moyen le plus sûr d’atteindre le niveau de capacités supérieur. Les modèles de pointe actuels – de GPT-6 Astra et Claude Fable aux alternatives open source de plus en plus compétitives – s’appuient tous sur cette même approche.
Ce n’est pas un hasard si les entreprises spécialisées dans l’IA ont tout mis en œuvre pour entraîner leurs modèles sur la moindre miette de données humaines. Chaque livre écrit, chaque ligne de code déboguée, chaque réponse postée sur un forum et chaque œuvre d’art sur laquelle elles ont pu mettre la main ont été ingérées. Anthropic a même été pris en flagrant délit de numérisation et de destruction secrètes de millions de livres papier dans le cadre de ce qu’on appelle le « Projet Panama ». Les capacités de ces modèles d’IA proviennent donc de ce que beaucoup de gens comprennent instinctivement, à savoir qu’ils ont absorbé le savoir collectif de l’humanité.
Les modèles d’IA sont le fruit de notre travail collectif et historique, appropriés sans compensation par une poignée de monopoles technologiques, aliénés de leurs créateurs, puis revendus sous forme d’abonnement. / Image : création personnelle
Le langage et le texte constituent une abstraction du monde physique dans lequel nous vivons, mais au fil des siècles et des générations, les sociétés humaines ont stocké de vastes quantités d’informations dans nos écrits, dont la majorité a été mise en ligne et rendue accessible sur Internet. Ce sont ces données qui ont rendu possible l’explosion récente de l’intelligence artificielle basée sur les « grands modèles de langage » (LLM). Simplement en parcourant les vastes volumes de langage humain et de données disponibles en ligne, ces LLM ont appris à cartographier une quantité incroyable d’informations sur notre monde.
Sous le capitalisme, ce processus revêt un caractère profondément sinistre. Ces modèles d’IA sont le fruit de notre travail collectif et historique, appropriés sans compensation par une poignée de monopoles technologiques, aliénés de leurs créateurs, puis revendus sous forme d’abonnement.
De plus, comme ces modèles appartiennent à des entités privées, que leur fonctionnement interne et leurs données d’entraînement sont protégés par le secret d’affaires, et qu’ils sont spécifiquement entraînés pour simuler l’interaction humaine, ils nous sont présentés non pas comme des outils, mais comme une forme de vie extraterrestre. Ils donnent l’illusion d’une capacité d’agir, voire d’une conscience.
Les progrès de l’IA peuvent-ils se poursuivre indéfiniment ?
Une idée importante qui découle de cette compréhension est que les améliorations que nous avons observées jusqu’à présent dans les capacités de l’IA ne proviennent pas d’« algorithmes plus intelligents » ni du développement d’une technologie sous-jacente fondamentalement nouvelle. Il y a eu des avancées progressives, mais beaucoup d’entre elles ont visé à surmonter des obstacles, comme l’utilisation plus efficace de la mémoire, afin de permettre une nouvelle étape dans l’amélioration des modèles. Même les modèles les plus avancés aujourd’hui reposent encore sur des LLM.
Les entreprises d’IA – qui sont déjà endettées à hauteur de centaines de milliards de dollars – ont un petit problème. Leurs valorisations reposent sur l’idée que l’IA continuera à développer ses capacités pour engloutir de plus en plus de secteurs de l’économie. Mais nous sommes désormais arrivés à un point où il devient difficile de continuer à progresser.
Il n’y a tout simplement pas assez de données d’entraînement produites par les humains pour permettre une nouvelle progression majeure. Parallèlement, les centres de données nécessaires pour entraîner et alimenter ces mastodontes atteignent leurs limites économiques et thermodynamiques, ce qui impose des contraintes réelles quant à la taille maximale que ces modèles pourraient raisonnablement atteindre. Sans parler du fait que la trajectoire actuelle de l’expansion des centres de données alimentés aux combustibles fossiles rend quasiment inévitable une accélération du réchauffement climatique.
L’approche actuelle en matière d’amélioration des modèles d’IA se heurte donc à des limites bien réelles. Et une fois que les possibilités d’amélioration dans ces domaines seront épuisées, il ne restera plus beaucoup de pistes pour continuer à progresser.
Les partisans de la thèse de la RSI diront qu’une fois que nous disposerons de modèles aussi performants que les humains en matière de recherche en IA, ceux-ci découvriront la prochaine avancée au-delà des limites des LLM. Mais cela suppose une bonne dose de pensée magique. Si ces modèles sont aussi « intelligents », c’est parce qu’ils ont absorbé la quasi-totalité des connaissances humaines. Ils excellent dans les domaines où il existe de nombreuses données humaines sur lesquelles s’entraîner, mais sont très mauvais pour comprendre des choses que même les humains n’ont pas encore comprises.
Les équations de Navier-Stokes
Ceux qui affirment que l’IA peut être véritablement créative et proposer de nouvelles idées mettront en avant les progrès incroyables réalisés par ces modèles en programmation et en mathématiques. Il est important de souligner que ce sont là les deux domaines dans lesquels on s’attendrait le plus à ce que les LLM excellent : il existe une quantité considérable de données d’entraînement de haute qualité et ils traitent d’informations discrètes et symboliques, où les réponses peuvent être vérifiées et validées, contrairement à de nombreux autres domaines de la connaissance humaine.
Néanmoins, OpenAI a annoncé le 9 septembre 2026 que ses modèles avaient réussi à réaliser une percée en mathématiques qu’aucun humain n’avait jusqu’alors réussi à accomplir, en résolvant le problème du prix du millénaire de Navier-Stokes. Cette impressionnante réussite a été présentée comme si les modèles d’IA remplaçaient entièrement le rôle des mathématiciens humains. Or, les faits démontrent le contraire.
L’approche utilisée pour résoudre le problème reposait sur une proposition formulée en 2023 par une équipe de mathématiciens espagnols, appelée « approche de Córdoba–Martínez-Zoroa ». Pour compliquer encore davantage les choses, il se trouve que deux autres mathématiciens, Tristan Buckmaster et Levent Alpöge, utilisaient exactement cette même approche depuis près d’un an pour tenter de résoudre le problème du prix Navier-Stokes à l’aide des modèles d’OpenAI via leur application Codex.
Les deux chercheurs se sont demandé si OpenAI avait utilisé l’historique de leurs conversations sur Codex pour alimenter sa tentative. OpenAI a été contraint de reconnaître dans un communiqué que « [m]ême si cela est peu probable, nous ne pouvons exclure que des données anonymisées issues de leur utilisation de nos produits aient contribué à améliorer nos modèles ». En d’autres termes, l’entreprise ignore si son modèle s’est servi de ses conversations avec les mathématiciens pour trouver une solution au problème. Que OpenAI ait ou non volé le travail de ces chercheurs, il est clair que la formulation correcte du problème a été fournie par une montagne de travaux antérieurs réalisés par des mathématiciens humains. Le rôle des modèles d’OpenAI dans la résolution du problème (qui ne peut être négligé) a consisté à s’attaquer au problème par la « force brute », en mobilisant une puissance de calcul incroyable, une fois qu’ils avaient reçu une formulation correcte.
Cet exemple démontre donc exactement le contraire de ce que pensent les partisans de la thèse de la RSI. Il montre que les agents d’IA peuvent être très performants pour tester par calcul les hypothèses et les questions posées par l’intuition humaine. Il montre que l’IA, bien que très puissante, reste un outil.
La question se pose donc : pourquoi tant de personnes s’efforcent-elles de nous convaincre du contraire en annonçant une catastrophe liée à l’IA ?
Pourquoi les gens sont-ils si paniqués ?
Le niveau d’hystérie et d’hyperbole qui entoure la peur de la superintelligence a suscité une réaction saine de méfiance chez de nombreux internautes. Une idée qui circule est que ce discours apocalyptique sur l’IA serait un complot des entreprises du secteur visant à consolider leur monopole. Il ne s’agit cependant pas d’un complot prémédité.
La vérité, bien moins spectaculaire, est que le secteur de l’IA attire des scientifiques et des ingénieurs dont la formation favorise une vision réductrice et hautement computationnelle du monde. Ayant été formés à la résolution de problèmes techniques, beaucoup ont tendance à considérer les différents aspects de notre monde, de l’intelligence humaine aux questions sociales complexes, comme s’ils fonctionnaient de la même manière qu’un système informatique, plutôt que comme des phénomènes obéissant à leurs propres lois de développement. Si l’on croit que tout fonctionne comme un ordinateur, alors l’idée d’une RSI et d’une prise de pouvoir immédiate de l’IA semble effectivement terrifiante.
La crainte d’une IA hors de contrôle reflète également des angoisses sous-jacentes bien plus profondes liées au fait de vivre dans un système social en décomposition, régi par la main invisible des forces du marché, où nous sommes en réalité incapables de contrôler les systèmes économiques et technologiques que nous avons créés. Tout comme le déclin de l’Empire romain a donné naissance à de nombreuses sectes apocalyptiques prédisant la fin du monde, les prédictions d’une apocalypse de l’IA reflètent aujourd’hui une angoisse semi-consciente face à la trajectoire terminale du système capitaliste.
L’accord pour « ralentir le développement de l’IA »
Cela dit, tout bon capitaliste sait qu’il ne faut jamais gaspiller une bonne crise. Depuis la tempête médiatique qui a entouré ces événements, Dario Amodei, PDG d’Anthropic, a lancé un appel pour « ralentir le développement de l’IA » en limitant le rythme de recherche dans les laboratoires les plus avancés, et a demandé au gouvernement américain de mettre en place des réglementations.
Dario Amodei, PDG d’Anthropic, a lancé un appel pour « ralentir le développement de l’IA » / Image : TechCrunch, Flickr
Que M. Amodei ou toute autre personne soit sincère dans son souhait d’un « accord de modération » visant à garantir la sécurité ou non, il est clair qu’un tel accord pourrait s’avérer très avantageux sur le plan commercial tant pour OpenAI que pour Anthropic. Ces entreprises sont de plus en plus exposées à d’importants risques juridiques liés aux conséquences de leurs modèles mal alignés. Cela a été démontré de manière particulièrement spectaculaire par le piratage de Hugging Face, au cours duquel un « essaim » de modèles OpenAI, entraînés à identifier des failles logicielles et à les exploiter à des fins malveillantes, a réussi à s’échapper d’un environnement de « sandbox » mal isolé et a commencé à pirater une autre entreprise via Internet.
L’enquête menée sur cet incident a révélé que la course effrénée à l’intensification des sessions d’entraînement dépasse largement notre capacité à suivre ce que ces modèles apprennent réellement. De tels incidents ont été signalés tant au sein d’OpenAI que d’Anthropic, où les ingénieurs n’ont pas le temps de vérifier correctement que leurs données d’entraînement et leurs environnements d’apprentissage par renforcement n’enseignent pas accidentellement aux modèles des comportements indésirables et destructeurs. Le non-respect des procédures de sécurité élémentaires n’est pas une conséquence inévitable du développement de l’IA, mais le résultat d’une course anarchique visant à être le premier à commercialiser le modèle le plus grand et le plus performant.
Au-delà des préoccupations de sécurité, la poursuite de cette expansion est aussi horriblement coûteuse. L’hystérie actuelle offre donc un prétexte parfait pour expliquer pourquoi ces entreprises pourraient « ralentir » le développement. OpenAI et Anthropic doivent composer avec des investisseurs inquiets que cette technologie ne leur permette jamais de rentabiliser leurs investissements colossaux. Réduire les dépenses consacrées à des cycles d’entraînement onéreux permettrait de baisser les coûts et d’améliorer leurs marges bénéficiaires, ce qui est très souhaitable pour deux entreprises qui s’apprêtent à lever un montant sans précédent de nouveaux fonds en entrant en bourse.
De plus, il pourrait y avoir une autre raison de rechercher une réglementation gouvernementale : le danger existentiel auquel ces deux entreprises sont confrontées, venant de la base. Comme l’a souligné Niels Rogge, ingénieur chez Hugging Face, l’appel d’Amodei à « ralentir le développement de l’IA » pourrait servir à freiner l’avancée de modèles open source peu coûteux qui se rapprochent de plus en plus des capacités de Claude (d’Anthropic) et des modèles de la série GPT (d’OpenAI), et qui peuvent être déployés à un coût bien inférieur. Une collusion entre OpenAI, Anthropic et le gouvernement américain pourrait servir à mettre en place des restrictions que seuls les très grands laboratoires disposant de moyens financiers importants seraient en mesure de surmonter, instaurant ainsi une forme de « capture réglementaire » leur donnant un pouvoir de monopole sur la fixation des prix.
Il faudra voir comment cela évoluera, mais étant donné que les modèles open source, en particulier les modèles chinois, constituent une menace existentielle pour le modèle économique d’OpenAI/Anthropic, cela explique clairement pourquoi des PDG comme Dario Amodei tirent la sonnette d’alarme face à la montée en puissance de la Chine. La question de la « suprématie en matière d’IA » est devenue centrale dans la rivalité interimpérialiste qui définit notre époque, et dans le domaine de l’IA comme dans d’autres sphères, la menace chinoise sert de justification pour nous pousser à nous rallier au programme de notre classe dirigeante irresponsable.
L’IA est déjà entre de mauvaises mains
Ce qui terrifie les gens par-dessus tout, c’est le sentiment omniprésent que personne ne contrôle la situation. C’est précisément là que réside la racine de la crise. Même si nous pouvions faire confiance aux personnes qui mènent la course à l’IA (ce que leur comportement ne nous permet clairement pas de faire), les forces anarchiques de la concurrence capitaliste garantissent que le résultat global échappe au contrôle humain.
Les entreprises spécialisées dans l’IA le savent. Chaque déclaration qu’elles font au sujet de la « sécurité de l’IA » leur permet de se dédouaner de toute responsabilité. quant à la manière dont elles choisissent de construire ces systèmes. Elles laissent toujours entendre que l’IA est inévitable, comme si elle surgissait de nulle part, plutôt que d’être activement développée par leurs ingénieurs. Leur raisonnement est toujours le même : « Quelqu’un va le faire, alors pourquoi pas nous ? »
Cela met en évidence la nature fondamentalement incontrôlée de la concurrence de marché. Mues uniquement par la recherche du profit à court terme, les entreprises privées font avancer les développements technologiques sans se soucier de leurs répercussions sociétales plus larges, laissant à l’État le soin de réparer les dégâts par la suite.
Le battage médiatique sensationnaliste autour d’une catastrophe existentielle et incontrôlable liée à l’IA sert de diversion commode face à cette réalité : le danger principal n’est pas une super intelligence hors de contrôle, mais plutôt le fait que l’IA soit déjà entre de mauvaises mains.
Même si cela ne mènera pas à l’extinction de l’humanité, la combinaison des LLM et d’une expansion à la force brute représente une approche extrêmement dispendieuse et dangereuse de la construction de l’intelligence artificielle. Au lieu d’intégrer rationnellement ces modèles dans l’économie au service des besoins humains, la course à l’IA dictée par le marché accélère les pires tendances du capitalisme : elle aggrave notre aliénation par rapport à notre travail, fait baisser les salaires et détériore les conditions de travail, crée des machines de guerre toujours plus efficaces et fait exploser la demande en énergie, ce qui aggrave la crise climatique. Même l’effondrement du boom de l’IA nous menace d’une récession mondiale !
Jamais auparavant la nécessité d’une planification économique par la grande majorité de la société ne s’était posée de manière aussi crue. Il faut souligner que l’IA n’a pas à être développée de cette manière. Dans le cadre d’une économie planifiée démocratiquement, de nombreuses formes et utilisations différentes de l’IA permettraient une planification de l’économie bien plus harmonieuse que sous le capitalisme, et au service d’objectifs définis par la grande majorité de l’humanité, et non par des dirigeants du secteur technologique non élus.
Le problème auquel nous sommes confrontés est le suivant : on ne peut pas planifier ce que l’on ne contrôle pas, et on ne peut pas contrôler ce que l’on ne possède pas. Une révolution est nécessaire pour soustraire les centres de données aux mains de la secte apocalyptique qui en est propriétaire et entamer la refonte tant de l’IA que de l’ensemble de notre système économique sous le contrôle conscient des êtres humains.
