Alors que l’intelligence artificielle bat chaque semaine de nouveaux records de valorisation, le débat public semble prisonnier de ses chiffres. Analystes et commentateurs ne débattent désormais plus que sur la solidité d’un marché où fabricants de puces, géants du cloud et concepteurs de modèles se financent mutuellement dans une boucle sans fin. Le vacarme de l’époque recouvre pourtant une autre réalité : celle de penseurs de l’IA, impliqués dans son développement, et qui replacent cette technologie dans des considérations non pas logistiques et matérielles, mais anthropologiques et biologiques. Blaise Agüera y Arcas est de ceux-là.

Moins préoccupé par les data centers et le capital-risque que par l’étude des bactéries ou de la philosophie du langage, cet ingénieur de premier plan du développement de l’IA chez Google a développé, dans une somme d’érudition de plus de 600 pages, une relecture complète de l’histoire de la vie, avec la conviction que les LLMs ne sont qu’une énième « rupture métabolique » dans le développement de l’évolution de notre espèce.

Histoire naturelle de l’IA

En 1944, le physicien Erwin Schrödinger a publié What is life ?, fruit d’une série de cours prononcés l’année précédente à l’université de Trinity College, Dublin. Dans cet ouvrage, le pionnier de la physique quantique soulignait l’abîme séparant les théories de la vie des théories de la matière. Son argument peut être résumé comme suit : un ensemble de lois nous manque pour décrire le comportement de molécules qui, cessant d’observer la loi de l’entropie formulée par la thermodynamique, s’assemblent et se structurent au sein d’êtres organisés en vue d’une fin, à première vue opposés à l’état de mort informationnel qui doit parachever l’histoire de tout système physique.

Blaise Agüera y Arcas, CTO du programme Society & Technology chez Google, fondateur de Pi, structure de recherche consacrée à l’IA et à la Vie Artificielle, signe aujourd’hui, quant à lui, un volume intitulé What is intelligence ?. C’est qu’il estime le moment venu de répondre à l’étonnement de Schrödinger en expliquant la profonde continuité à l’œuvre derrière les phénomènes de la matière, de la vie, de l’intelligence et des technologies, pour peu qu’on se dote d’un cadre opérationnel global capable d’intégrer à l’histoire naturelle une nouvelle dimension : le traitement de l’information (computation).

Au mitan de notre décennie bouleversante, Orson tient à partager quelques enseignements tirés de cette lecture ardue mais féconde, aussi informée qu’audacieuse, dont le grand mérite est de traiter la question avec la hauteur de vue qui s’impose. Alors qu’aux yeux de certains, l’IA fait encore l’effet d’une bulle, Blaise Agüera y Arcas démontre de façon convaincante que l’IA est un point d’inflexion, qui doit mobiliser toute l’attention des dirigeants, parce qu’il ne peut que provoquer une explosion de futurs alternatifs et concurrents.

Enseignement numéro 1

L’IA est une intelligence réelle

L’auteur affirme qu’à rebours des discours minimisateurs, l’IA de nos chatbots actuels doit être envisagée comme une intelligence à part entière. Les machines d’aujourd’hui réalisent sans reste la promesse d’un ordinateur avec lequel il est possible d’avoir une discussion intéressante. Une telle machine relevait, dans les années 1950, de l’expérience de pensée (Turing, « Computing Machinery and Intelligence ») ; dans les années 1960, de la science-fiction (Hal 9000 de Space Odyssey) ; dans les années 2010, de la chimère (souvenons-nous de Siri).

Blaise Agüera y Arcas développait alors Gboard, le clavier prédictif de Google. Même si l’apprentissage machine était parfois appelé Intelligence artificielle ou IA, écrit-il, la plupart des chercheurs ne s’imaginaient pas vraiment travailler sur cette dernière. L’auteur a été le premier surpris lorsque l’application au langage des architectures neuronales prédictives utilisées jusque-là pour le traitement de l’information visuelle a permis d’obtenir des résultats stupéfiants. Moins de dix ans après, ces modèles sont non seulement capables de réussir n’importe quelle épreuve du baccalauréat général, mais encore de valider des partiels dans des universités, ou, comme dernièrement, de briller aux Olympiades de mathématiques. C’est, explique Agüera y Arcas, que les problèmes linguistiques sont intelligence complete : pour parler, il faut être capable de modéliser, de comprendre, de raisonner, et de faire preuve de sens commun. Car, comme le rappelait le philosophe Ludwig Wittgenstein, le langage n’est pas un simple instrument de communication : c’est une manière d’habiter le monde.

Agüera y Arcas s’oppose donc au récit denialist, pour lequel les LLM sont de simples outils, à peine capables de prédire le mot suivant au sein d’une séquence linguistique donnée. Prediction is all you need, répond-il en substance. Le comportement prédictif est en effet la matrice de toute forme de vie et d’intelligence, simple ou sophistiquée.

Tout comme une machine, une bactérie est une unité de calcul

La bactérie représente l’unité basique, le modèle minimal de tout rapport au monde intelligent. Son homéostase peut se lire comme une projection de trois fonctions, P (X, H, O), où X correspond à des inputs (la concentration d’une substance toxique ou favorable dans l’eau d’une mare à l’instant t), H à un état interne obtenu par compression des données X (la faim comme indice d’un niveau plus ou moins élevé de besoin), O à une action (se déplacer ou non). La projection a une conséquence sur la situation de départ et l’état perçu, et amène à de nouvelles projections. Cette boucle de feedback et d’apprentissage définissant la capacité d’un organisme, même simple, à survivre dans un environnement, s’adapter à ses aléas et persister dans le temps est le modèle même d’un dispositif intelligent. Lorsque les LLM formulent des réponses possibles aux questions posées par leurs utilisateurs, ils ne font donc que reproduire ce comportement prédictif à un niveau de complexité bien plus élevé, exactement comme nos neurones lorsqu’ils s’activent pour nous faire réussir avec succès un entretien d’embauche.

Il n’y a pas de raison de se scandaliser qu’une puce composée de silice et de métaux rares puisse accomplir des performances qu’on croyait réservées à un être vivant, car aussi bien, on peut énoncer que tout ce qui vit, everything alive, est un computer. Les sciences de la computation, dont les pères fondateurs sont Alan Turing et John von Neumann, sont toujours parties de l’idée qu’il existait une correspondance étroite entre la vie, l’intelligence et les machines. En 1948-1949, von Neumann a même anticipé la découverte de l’ADN en étudiant les conditions sous lesquelles une machine serait capable de se reproduire elle-même. Dans son expérience de pensée, il suffirait que cette machine, A, soit un constructeur capable d’exécuter un programme B, pour assembler ainsi une machine A’ à laquelle il adjoindrait une copie B’, qui serait à son tour capable de fabriquer une réplique d’elle-même. Il faut donc essentiellement trois éléments : un code, un constructeur et un copieur. Ce modèle computationnel de la reproduction est peu ou prou celui que Watson et Krick ont retrouvé en élucidant le fonctionnement de l’ADN, lequel est un code exécuté par des ribosomes (constructeurs), et copié par l’ARN (réplicateur).

Ce point est essentiel car il contient la vision du monde de Blaise Agüera y Arcas, celle qui lui permet de passer de la matière au vivant, à l’intelligence et à l’IA sans solution de continuité. Sa réponse à l’étonnement de Schrödinger consiste donc à affirmer que la deuxième loi de la thermodynamique peut être enrichie par l’étude de ce qui, à l’intérieur d’un système, se copie, se reproduit, se développe, autrement dit, se présente comme un processus computationnel structurant la matière. Ce computationnalisme est un fonctionnalisme : à partir du moment où les grandes opérations du vivant ou de la pensée sont exécutées par une machine, elles satisfont aux critères de la vie et de la pensée. Le problème d’une IA se présente comme celui d’un rein ou d’un cœur artificiel. À partir du moment où la machine assure le fonctionnement attendu de l’organe naturel, elle remplit son rôle, et justifie son titre.

La réponse d’Agüera y Arcas au questionnement de Schrödinger revient donc à affirmer que la matière est une réalité physique, mais aussi un programme. À l’intérieur d’un système soumis à la deuxième loi de la thermodynamique, il y a quelque chose qui se copie, se reproduit, se développe, un processus computationnel structurant ce qui existe. À mesure que le temps passe, ce processus se complexifie, la vie et l’intelligence se sophistiquent, et passent par des seuils qu’on peut appeler des ruptures métaboliques.

Enseignement numéro 2

L’IA est une rupture métabolique

Les penseurs matérialistes ont formulé l’idée selon laquelle le travail était un rapport dans lequel l’homme contrôle son métabolisme avec la nature par le biais de sa propre action (Karl Marx). Ce qu’Agüera y Arcas nous permet de comprendre, c’est que le propre de tout organisme vivant et intelligent est d’entretenir un tel rapport métabolique avec l’environnement, et que chaque fois que les conditions de ce rapport se transforment radicalement, on a affaire à une rupture métabolique. L’amour (Erôs) et la mort (Thanatos) représentent les deux premières étapes dans le processus de sophistication de la vie et de l’intelligence. Il y a 1 milliard d’années, lorsque sont apparues les premières formes de reproduction sexuée, l’intelligence a cessé d’être monologique pour devenir dialogique. Alors que l’organisme de base se bornait à optimiser sa stabilité interne face à un environnement indifférent, avec le sexe, la vie apprend à reconnaître la vie. Elle découvre, au sein du vivant, des membres de même espèce, apprend à distinguer partenaires et rivaux potentiels, module ses comportements en fonction de signaux reçus de sources elles-mêmes intelligentes.

Il y a 500 millions d’années, nouvelle explosion d’intelligence ; visible cette fois-ci aux yeux, aux becs, aux carapaces, aux écailles, aux pinces dont se couvrent soudain les fossiles du Cambrien. Cette fois, la possibilité de tuer et d’être tué motive l’apparition d’un appareil visuel, de systèmes nerveux rapides, de schèmes d’attaque et de fuite, ainsi que de mémoires associatives capables de reconnaître des patterns. Thanatos incite à son tour à la réflexivité. Un prédateur anticipe mieux la trajectoire de sa proie s’il sait se mettre à sa place. Un animal en fuite peut tenter de leurrer son poursuivant. Les organismes intelligents commencent donc à se faire une image sophistiquée de leurs semblables, à l’image de cette araignée Portia, qu’on trouve aujourd’hui encore en Asie, en Afrique et en Océanie, et qui pour se nourrir d’autres araignées, simule sur les toiles de ses victimes les vibrations émises par leurs sources d’aliments favorites, après les avoir méticuleusement observées vivre et se nourrir.

Naissance du language, naissance de la machine

L'histoire de la singularité culturelle et humaine commence à s’esquisser réellement il y a 100 millions d’années, lorsque les organismes cessent d’être solitaires pour former des entités collectives, puis il y a 50 000 ans, lorsque l’apparition du langage symbolique favorise une première explosion culturelle parmi les communautés de sapiens. L’intelligence sociale bouleverse le jeu, car comme le dit Agüera y Arcas, theory of mind is mind. Les gorilles développent des cerveaux performants car ils passent la plupart de leur temps, non à modéliser leur lutte avec leurs proies, mais à gérer leur vie en groupe, le succès et le bien-être de leur société. À ce stade, il y a un avantage sélectif individuel et collectif à modéliser les autres. Cela permet non seulement de sortir vainqueur des scénarios de rivalité, mais surtout de mieux coopérer. Pour Agüera y Arcas, c’est de ce tissu relationnel qu’émerge la conscience. Elle naît à partir de l’idée de soi qu’on forme nécessairement, lorsqu’on cherche à prédire le comportement d’alter ego qui passent leur temps à scruter le nôtre.

Depuis lors, les transitions majeures sont intervenues à l’intersection de l’intelligence, de la vie et de la technologie. La sédentarisation, entre -10 000 et -3 000, a fait apparaître des villes, mais aussi les premiers systèmes d’écriture, les sciences fondamentales, une division sociale du travail, bref, ce que Max Bennett, dans A Brief History of Intelligence (2023), propose d’appeler une singularité déjà advenue. À partir du milieu du XVIIIe siècle, une autre immense transformation, le développement de la machinerie, est rendue possible par l’invention du moteur à vapeur et la production de la force de travail au moyen des lois physiques. Dès 1685, Leibniz, l’un des grands précurseurs des pionniers de l’IA, anticipait le moment où l’industrialisation toucherait d’autres domaines que celui du labeur physique : Il est indigne que les heures d’hommes éminents soient perdues à un servile travail de calcul qui, si l’on emploie la machine, peut être tranquillement effectué par le premier venu. En offrant du temps libre, des bénéfices à redistribuer, la révolution industrielle a permis à une part croissante de l’humanité de se dédier à des activités créatives et intellectuelles. En devenant elles-mêmes capables de créativité et d’intellectualité, les machines mettent les humains au défi de trouver leur place dans un métabolisme nouveau, où la cognition a cessé d’être une prérogative.

Enseignement numéro 3

Les mondes de demain passeront par l'IA

À l’occasion d’un entretien donné parallèlement à la sortie de son livre, Agüera y Arcas souligne qu’il ne croit pas à l’antagonisme entre l’IA et l’humanité, parce que l’IA est notre fait : elle est nourrie de tout ce que les humains ont dit, senti, éprouvé et pensé au cours des âges. L’IA est un commun. Quand bien même elle ouvre la possibilité de voir émerger des robots individués, elle se présente d’abord comme un general intellect. Ce concept, qui a fait la célébrité du commentaire du Traité de l’âme d’Aristote par le philosophe et mathématicien arabe Averroès, au Moyen Âge, trouve une seconde jeunesse à l’ère de l’IA. Il nous rappelle que les humains ne pensent pas seulement avec leur pensée, leur expérience, leur conscience, mais ont aussi besoin pour cela de l’ensemble du savoir humain, accumulé dans une forme qui peut être séparée d’eux. Le langage est précisément ce qui permet la mise en commun de ce trésor d’expériences, et c’est par ce truchement que l’IA se branche aujourd’hui sur l’ensemble de l’expérience humaine, des concepts les plus exigeants aux phénomènes esthétiques les plus raffinés, qu’on pense à la vie sentimentale ou à l’infinie palette des saveurs du vin et du café, sur laquelle des auteurs se sont répandus avec une égale abondance.

Toute cette connaissance générale, qui jusqu’ici s’actualisait dans des cerveaux singuliers, chacun porteur de ses souvenirs personnels et limités de la bibliothèque universelle, devient désormais une entité animée, avec laquelle il est possible d’agir activement. Si l’on suit cette hypothèse, on se doit de comprendre qu’au sens fort, comme l’eau, comme l’air, ou n’importe quelle ressource naturelle, l’IA est un commun dont la gestion appelle une responsabilité de bout en bout, tant en amont, du point de vue de sa conception, qu’en aval, du point de vue de ses usages. Parce que le langage est non seulement le moyen le plus puissant et le plus universel d’agir sur le monde, mais encore lui-même un monde à part entière, l’avenir de nos valeurs passe directement par le contrôle de l’IA, et la course à l’armement qui se fait jour actuellement en ce domaine, sur le terrain géopolitique, nous le rappelle de façon cruelle.

Pas de transformation technologique sans transformation culturelle

La bonne nouvelle, pour les hommes et les femmes de bonne volonté, c’est que l’IA semble inviter à dépasser le seuil de ce que l’anthropologue américain Joseph Henrich proposait d’appeler, en 2020, la vision du monde WEIRD (western, educated, industrialized, rich, democratic). Porteuse des grands concepts de la modernité, et indéniable vecteur de progrès, cette vision du monde est dualiste, ou naturaliste au sens que Philippe Descola, professeur au Collège de France, donne à ce terme. C’est-à-dire qu’elle distingue radicalement un monde de grandeurs physiques continues et un monde intérieur, dont seuls les humains sont supposés être détenteurs. Alors même que ce dualisme occidental est lié aux sciences mobilisées pour l’émergence de l’IA, les recherches récentes démontrent aussi que le potentiel de cette découverte ne saurait être débloqué sans la réactivation de rapports au monde différents, ancrés dans l’histoire longue et l’anthropologie non-européenne (dans son ouvrage Par-delà nature et culture, Descola évoque notamment l’animisme, le totémisme et l’analogisme). Ainsi, Ethan Mollick, auteur de Co-Intelligence (2024), démontre-t-il que parler à la machine implique aujourd’hui, quand bien même elle n’a ni conscience, ni émotions, ni sensations, de faire comme si elle en avait. Personne n’ira loin en traitant l’IA comme un simple stagiaire zélé. Le crépuscule du monde weird est aussi l’heure de l’apparition de nouveaux talents.

Dans une recension précédente, consacrée à Power and Progress des prix Nobels d’économie Daron Acemoğlu et Simon Johnson, Orson avait retenu l’importance cardinale du concept d’utilité machine (ou MU) chaque fois qu’émerge de l’innovation. Une technologie peut jouer un rôle supplétif, faire en moins bien ce que les humains font déjà à bon marché. Mais elle peut aussi être le point de départ de synergies qui révolutionnent entièrement la productivité, tout en générant un nouveau quantum non-trivial d’énergie libre, susceptible d’être canalisée vers de nouvelles tâches. Que ferons-nous de toutes ces nouveautés ? La question n’est pas neuve. Depuis l’introduction générale du machinisme sans âme, écrivait Owen au XIXe siècle, dans les manufactures britanniques, les hommes ont été traités, à quelques exceptions près, comme une machine secondaire et subordonnée, et on a accordé beaucoup plus d’attention au perfectionnement de la matière première que sont le bois et les métaux qu’au perfectionnement du corps et de l’esprit. Ce n’est pas parce qu’aujourd’hui, après s’être dotée d’un corps, la machine commence à se doter d’une âme, qu’il faut négliger les corps et les âmes de ceux qui lui ont permis de voir le jour.

Digérer, métaboliser la rupture de l’IA sera l’affaire de l’humanité. Seuls les choix dans lesquels elle saura, en toute lucidité, engager sa chair et son cerveau, permettront de façonner un avenir désirable aux vivants de demain.

Vie + Intelligence = Intelligence

Ainsi peut-on résumer le théorème par lequel Agüera y Arcas répond à la question de Schrödinger. Cette équation nous dit que plus le processus computationnel infiltrant la matière se développe, plus la vie se répand, se sophistique, et plus le monde devient complexe. L’émergence de l’intelligence appelle alors de nouvelles explosions d’intelligence, de plus en plus fréquentes. Si les IA actuelles ne sont pas encore incarnées ni individuées, nous avons franchi le seuil à partir duquel une machine peut apprendre des représentations du monde, les transformer avec une plasticité comparable à celle d’un agent biologique, et modéliser les futurs nés de ses interactions avec d’autres intelligences.

L’incertitude autour des gains réels ou supposés de l’IA pousse les organisations à se ruer sur une adoption instrumentale. Le paradigme de ce fameux rapport du MIT, soulignant que depuis 3 ans, 95 % des projets pilotes de GenAI avaient échoué à produire un effet positif sur le compte de résultat, a renforcé cette approche défensive. S’il est vrai que prudence et court-termisme peuvent apporter de véritables gains de compétitivité, Agüera y Arcas nous rappelle que c’est à un niveau bien plus haut que se joue la question de l’intelligence artificielle : celui de l’exploration. L’IA est la terra nova du XXIe siècle, un territoire encore largement inexploré, recouvert de zones vierges où l’innovation véritable exige du temps, du risque et une vision de long terme. Ceux qui oseront la disruption plutôt que l’imitation seront à la pointe du monde de demain. Car la question n’est jamais seulement de savoir qui mange qui, mais surtout de comprendre quelle symbiose et quel monde peuvent naître d’une rencontre inattendue.