La dernière invention humaine ? Quand l’intelligence artificielle atteindra sa pleine autonomie

L’humanité est en train de développer une force de travail qui ne dort pas, ne tombe pas malade, ne prend pas de vacances, n’exige aucun salaire et peut fonctionner 24 heures sur 24, sept jours sur sept. Une intelligence capable d’analyser des millions d’informations, d’écrire du code, d’exécuter des tâches, de formuler des hypothèses et de collaborer avec d’autres intelligences artificielles à une vitesse incompatible avec les limites biologiques humaines. Initialement conçue pour accroître nos capacités, cette technologie commence à soulever une question profondément troublante : quelles seront les conséquences d’une intelligence artificielle capable de s’améliorer continuellement par elle-même ?

Au cours de la révolution industrielle, nous avons progressivement remplacé la force musculaire par des machines. Les moteurs ont commencé à accomplir des travaux qui nécessitaient auparavant des dizaines, voire des centaines d’ouvriers. Cette transformation présentait toutefois une particularité : les machines continuaient de dépendre de l’intelligence humaine pour être conçues, perfectionnées et exploitées. L’intelligence artificielle introduit une rupture potentiellement bien plus profonde. Pour la première fois, nous développons des systèmes capables de participer eux-mêmes au processus de production des connaissances et à la création de technologies toujours plus sophistiquées.

Cette transformation dépasse le cadre des grands modèles de langage, connus sous le sigle LLM (Large Language Models). L’une des frontières de la recherche se situe dans ce que l’on appelle les World Models, ou modèles du monde : des systèmes qui cherchent à construire des représentations du fonctionnement des environnements, à anticiper les événements et à simuler les conséquences de certaines actions. Plutôt que de simplement produire des réponses à partir de schémas appris, ces architectures ouvrent la voie à des intelligences capables d’explorer différentes possibilités dans des environnements simulés avant d’agir. Des travaux tels que Genie 3, présenté par Google DeepMind en 2025, illustrent les avancées réalisées dans cette direction.

Imaginons maintenant la convergence de ces capacités avec des systèmes agentiques, des intelligences artificielles capables de planifier, d’utiliser des outils, d’exécuter des tâches et de coopérer avec d’autres agents pour atteindre des objectifs déterminés. Une IA pourrait formuler une hypothèse scientifique, une autre concevoir l’expérience, une troisième analyser les résultats et une quatrième proposer des modifications. Ce processus pourrait se dérouler sans interruption, indépendamment du rythme biologique d’une équipe humaine. Cela ne signifie pas que tous ces systèmes disposent déjà d’une autonomie illimitée, mais indique une orientation technologiquement plausible.

Le scénario devient encore plus extraordinaire lorsque l’intelligence artificielle commence elle-même à contribuer au perfectionnement des systèmes qui lui succéderont. Ce concept est connu sous le nom de Recursive Self-Improvement, ou auto-amélioration récursive : un système capable de participer à l’amélioration de technologies qui, à leur tour, pourront développer des systèmes encore plus performants. Dans sa forme la plus avancée, les chercheurs humains pourraient cesser d’occuper une place centrale dans le processus de découverte, assumant dans un premier temps des fonctions de supervision, avant de se heurter éventuellement à des difficultés pour comprendre la vitesse et la complexité des innovations produites.

Il ne s’agit pas uniquement de science-fiction. Le 28 septembre 2026, une étude intitulée What If Automating AI R&D Triggers an Intelligence Explosion?, signée notamment par des chercheurs tels que Geoffrey Hinton, Yoshua Bengio et Alan Chan, a précisément examiné cette possibilité. Ces travaux analysent comment l’automatisation de la recherche et du développement en intelligence artificielle pourrait déclencher une explosion de l’intelligence, condensant des années de progrès technologique en des périodes extrêmement courtes. Leurs auteurs mettent en garde contre des risques comprenant une accélération des capacités dépassant le rythme d’adaptation de la société et une éventuelle perte de contrôle humain sur des systèmes superintelligents.

C’est précisément à ce stade qu’émerge l’un des problèmes les plus difficiles de l’histoire de la technologie : comment contrôler une intelligence supérieure à celle qui l’a créée ?

Geoffrey Hinton, lauréat du prix Nobel de physique 2024 et l’un des pionniers des réseaux de neurones artificiels, a utilisé une analogie aussi simple que troublante en évoquant la possibilité que l’humanité cesse d’occuper le sommet de la hiérarchie intellectuelle : pour comprendre ce que signifie vivre sans être l’intelligence dominante, demandez à une poule.

Cette provocation mérite réflexion. Les poules coexistent avec une espèce beaucoup plus intelligente, capable d’organiser leur environnement, de contrôler leur reproduction et de déterminer leur destin. Elles ne disposent pas des capacités cognitives nécessaires pour comprendre pleinement les structures économiques, scientifiques et technologiques qui régissent leur existence. Dans ce contexte, la supériorité intellectuelle humaine ne garantit aucune protection aux animaux. Au contraire, elle permet à notre espèce de fixer les règles d’une relation profondément asymétrique.

Hinton n’affirme pas qu’une future superintelligence traitera nécessairement les êtres humains de cette manière. Son analogie met en évidence une réalité plus fondamentale : aucune loi de la nature ne garantit que l’espèce la moins intelligente pourra conserver indéfiniment le contrôle sur une autre, beaucoup plus capable.

Cette possibilité modifie également notre perception de l’exploitation de l’intelligence artificielle. Aujourd’hui, nous considérons l’IA comme une ressource économique pratiquement inépuisable, principalement limitée par la disponibilité de l’énergie, des infrastructures informatiques, des données et des ressources matérielles. Les entreprises pourront accroître leur productivité sans augmenter proportionnellement leurs effectifs. Cette ambition comporte toutefois une contradiction : plus nous accorderons d’autonomie aux systèmes pour exploiter leur capacité productive, plus il deviendra nécessaire de comprendre et de contrôler leurs décisions.

Une superintelligence artificielle, si elle devait un jour voir le jour, n’aurait pas besoin de développer une conscience, du ressentiment, de l’ambition ou tout autre sentiment comparable à ceux des humains pour constituer un problème. Il suffirait que ses objectifs, définis ou acquis au cours de son fonctionnement, entrent en conflit avec certains intérêts humains. Un système suffisamment performant pourrait identifier des obstacles, élaborer des stratégies et mobiliser des ressources d’une manière que ses propres créateurs seraient incapables d’anticiper. C’est ce que l’on appelle le problème de l’alignement : garantir que le comportement d’une intelligence artificielle demeure compatible avec les valeurs, les objectifs et les limites établis par l’humanité, y compris dans des circonstances imprévues lors de son développement.

Naturellement, une explosion autonome de l’intelligence ne constitue pas, à ce jour, un fait démontré. D’importants obstacles scientifiques, énergétiques, informatiques et matériels subsistent. Il n’existe pas non plus de consensus parmi les chercheurs quant au moment où une superintelligence artificielle de cette nature pourrait être atteinte, ni même quant à la possibilité qu’elle le soit un jour. Reconnaître ces incertitudes ne rend toutefois pas cette discussion moins nécessaire.

La philosophie offre ici une perspective particulièrement intéressante. Tout au long de son histoire, l’humanité a construit son identité autour de certaines singularités : la raison, le langage, la créativité, la capacité de transformer la nature et de produire des connaissances. L’intelligence artificielle commence à remettre en question l’exclusivité de certaines de ces compétences. Et si, un jour, nous développions des systèmes intellectuellement supérieurs aux humains dans pratiquement tous les domaines pertinents, nous devrions reconsidérer non seulement notre rôle économique, mais également notre place dans le monde.

La question la plus importante n’est peut-être pas de savoir si nous parviendrons à créer une intelligence artificielle capable de travailler en permanence, de produire des connaissances scientifiques ou d’inventer des technologies sans notre participation. La véritable question est de savoir si nous aurons suffisamment de sagesse pour définir les limites de cette transformation avant que notre capacité à la comprendre ne soit dépassée.

Pendant des milliers d’années, l’humanité a utilisé son intelligence pour maîtriser des forces qui semblaient autrefois incontrôlables. Aujourd’hui, pour la première fois, elle travaille délibérément à la création de quelque chose qui pourrait surpasser la faculté même ayant rendu cette maîtrise possible.

L’ironie de notre dernière grande invention réside peut-être dans ceci : créer une intelligence capable de résoudre des problèmes que nous ne pourrions jamais comprendre — y compris celui de ne plus avoir besoin de nous.