Analyse du dernier papier de recherche de Google DeepMind.
L’essentiel
— Selon une étude de Google DeepMind, l’AGI (intelligence artificielle générale) serait désormais à portée de main, voire déjà partiellement atteinte, et ne constituerait qu’une étape vers l’ASI, une super-intelligence capable de surpasser l’humain dans tous les domaines.
— DeepMind estime que la puissance de calcul effective pourrait être multipliée par 10 000 d’ici dix ans, portée par l’explosion des investissements, des capacités informatiques et des progrès algorithmiques.
— Le laboratoire identifie quatre trajectoires possibles vers l’ASI : la mise à l’échelle des modèles, l’amélioration des algorithmes, l’auto-amélioration récursive des IA et la coordination de multiples agents spécialisés.
— Malgré cet optimisme technologique, de nombreuses inconnues demeurent : disponibilité des ressources, limites cognitives des modèles, risques d’hallucinations, contraintes réglementaires et acceptation sociale de systèmes toujours plus autonomes.
Nous sommes ravis de retrouver Jérémy Lacoste, contributeur sur la Réclame. Jérémy est directeur général France de l’agence Eskimoz. C’est un expert du marketing digital, des martech et de la publicité en ligne. Il a pour grande qualité de partager chaque semaine ses analyses et observations, que ce soit sur LinkedIn, dans son podcast Icebreaker, en tant qu’enseignant ou dans ses tribunes sur la Réclame.
C’est la question qui taraude tout le monde : quand l’humanité déploiera-t-elle l’Intelligence Artificielle Générale (AGI), celle qui sait tout et fait tout ? Le rêve prométhéen. Si l’on en croit le réalisateur Quentin Dupieux, on y est déjà. Dans son dernier film Le Vertige (que je recommande deux fois), on suit l’enquête d’Alain Chabat et Jonathan Cohen en version pixel époque Playstation 1 tentant de trouver tous les glitchs de notre monde, comme preuve que l’on vit dans une simulation géante contrôlée par une intelligence supérieure.
Farfelu ? Pas tant que ça pour ceux qui lisent et écoutent les pontes de la Silicon Valley depuis des années. Je passe sur tous les boutiquiers de SF qui soufflent sur les peurs et agitent le chiffon de la dystopie à la sauce IA. Remarquons simplement que les laboratoires qui bossent sur ces sujets accompagnent leur recherche en études en tout genre. C’est Dario Amodei qui nous partage tous les quatre matins ses essais sur l’IA. C’est le Pape Léon avec Anthropic (encore eux) qui prend position sur cette rupture anthropologique. C’est Sam Altman qui publie un manifeste sur le revenu universel pour amortir l’impact de ces technos… Je n’ai pas souvenir qu’une rupture technologique récente ait entraîné autant d’entreprises littéraires.
Dernièr parangon en tête : l’étude que vient de publier DeepMind, le laboratoire IA de Google, celui-là même qui est à l’initiative des transformers, socle de la révolution IA que l’on connaît aujourd’hui. Et elle vaut le détour.
Que dit ce rapport en substance ? L’AGI, cette chimère dont les futurologues aiment à pronostiquer la date de naissance… est déjà là. Ou quasi. Et n’est qu’une étape avant l’avènement prochain de la Super intelligence générale artificielle (ASI).
J’en perds mon latin, moi qui pensais que cette course folle allait bientôt s’arrêter. Car il faut dire que cela turbine déjà pas mal. Les multiples s’enchaînent depuis quelques mois :
– Anthropic fait x80 de croissance, là où son fondateur avait planifié un timide x10 ;
– ChatGPT atteint le milliard d’utilisateurs actifs en 3 ans ;
– Elon Musk déploie un data center en 19 jours vs 36 mois en temps normal ;
En fait, nous ne sommes que dans les starting blocks.
L’AGI, simplement une étape
Et le papier de DeepMind permet de comprendre où l’on va. Je vous décrypte ce que j’ai retenu de ces 75 pages.
Déjà, et cela m’a fait bien rire quand même, le papier commence par s’adresser… aux IA qui vont lire l’étude en leur donnant un certain nombre d’instructions sur les modalités de restitution. Manière d’entériner le fait qu’il n’y a que les esprits un peu tordus pour s’infliger la lecture complète dudit rapport. Présent.
Blague à part, DeepMind pose 3 postulats très intéressants :
1/ L’humanité est en train d’atteindre l’AGI, c’est-à-dire la mise en place d’un système doté d’une intelligence humaine de niveau médian. Force est de constater que sur la plupart des fonctions cognitives prises les unes séparément des autres, les modèles frontières d’IA sont bien meilleurs que la moyenne de nos cerveaux. Dont acte.
Demain, le vrai sujet se situe autour de l’ASI, un système de Super Intelligence complexe et matricielle qui dépasse les humains dans tous les domaines et en tout temps. On n’y est pas (encore).
2/ Ce qui paraissait inaccessible, l’est de moins en moins. Car, on est en train de distordre l’équation suivante. L’augmentation de la puissance de calcul continue de suivre la loi de Moore et de doubler tous les 18 mois. Pas de sujet donc.
En revanche, l’investissement en équipement informatique et l’efficacité algorithmique sont les deux variables qui croissent de façon exponentielle, sous le double effet des capitaux qui arrivent en masse et des avancées technologiques. Pour DeepMind, à 10 ans, la croissance du calcul effectif progressera d’un facteur de 10 000 par rapport à aujourd’hui. Changement d’échelle donc.
3/ Les freins à la Super Intelligence sont déjà identifiés et en partie taclés : la disponibilité d’immenses jeux de données, de flux d’investissement et d’énergie en abondance. Toutefois, même résolus, il y a tout un univers d’inconnus qui questionne la faisabilité d’atteindre cette Super Intelligence à court terme.
La Super Intelligence, on y va comment ?
DeepMind identifie néanmoins 4 chemins pour y parvenir. Et non ce ne sont pas les World Models…
1/ La mise à l’échelle
C’est la dynamique dans laquelle nous sommes entrainés aujourd’hui. Elle repose sur un principe simple : augmenter sans discontinuer l’input, en l’occurrence les bases de données d’apprentissage sur lesquelles les modèles s’entraînent. Sauf qu’aujourd’hui, on sait que les LLM ont déjà consommé toutes les ressources disponibles sur le web et que ces entreprises achètent à prix d’or des jeux de données à droite, à gauche : données first party des entreprises, Pokémon GO, vidéos d’employés qui se filment durant leur travail à l’usine, etc.
Dans ce paradigme, Google me semble avoir une avance énorme en ayant le double avantage de pouvoir à la fois profiter d’un circuit de distribution sans précédent avec son Googleverse ET de… Youtube qui contient des téraoctets de vidéo.
Au-delà d’un possible tarissement des flux d’investissement, ce scénario paraît être menacé par la barrière d’abstraction. C’est-à-dire notre capacité à penser en dehors de nos schémas cognitifs classiques. Pour toucher l’ASI, il faut sortir du mythe de la caverne. Et à date, pas sûr qu’on ait l’itinéraire en notre possession
2/ La vélocité algorithmique
C’est tout simplement une montée en maturité exponentielle de l’efficacité des algorithmes qui est visée ici. Pour l’atteindre, DeepMind identifie 3 approches :
– L’extension infinie de la mémoire de travail des modèles IA. On peut d’ailleurs déjà l’activer sur certains modèles, mais celle-ci semble encore en partie limitée. Ici, son affranchissement permet un enrichissement phénoménal des contextes de réponses ;
– La fragmentation du processus d’apprentissage en phase de test, qui est souvent l’étape la plus ardue. Plutôt qu’être dépendant d’un workflow principal d’apprentissage qui crée de la congestion, une AGI pourrait tirer parti d’une planification augmentée par des outils pour décomposer des problèmes complexes ;
– L’intégration de world models, autrement dit, le dépassement des seules données textuelles et vidéos comme socle d’apprentissage des modèles actuels. Étape nécessaire pour simuler des futurs et planifier des horizons de probabilité ;
Si ce paradigme gagne, OpenAI me semble tenir la corde grâce à leur force de frappe incroyable sur la partie modèle.
L’inconnue étant de savoir si la loi de Moore pourra se maintenir dans le temps : aujourd’hui, il faut par exemple 18 fois plus d’effort qu’en 1970 pour doubler chaque année… au risque sinon de connaître de nouveau un hiver de l’IA comme en 1950.
3/ L’amélioration récursive
C’est le processus par lequel l’IA facilite le développement de l’IA. Dit différemment, ce sont des boucles (loops) d’apprentissage auto-gérées par les moteurs IA qui deviennent pilote de leur propre montée en compétences.
Dans ce paradigme, les IA reproduisent les trajectoires d’évolution que les humains connaissent à coup d’apprentissages culturels, sociologiques et anthropologiques. À une différence près : la vitesse folle d’innervation.
Ces améliorations récursives rayonnent sur 3 dimensions :
– Le perfectionnement du matériel informatique (puces, serveurs, mémoire) ;
– Les modèles de données d’entraînement (quantité ET qualité ET diversité) ;
– Le taylorisme des cycles d’apprentissage : chaque tâche est décomposée ;
Dans ce schéma, c’est aujourd’hui Anthropic qui semble avoir un coup d’avance si l’on en croit les témoignages de ses ingénieurs qui ne codent déjà plus. Et font évoluer leur modèle à coup de loop depuis des mois.
Avec un risque majeur toutefois : l’auto-intoxication. Les modèles étant à l’origine des inputs et des outputs pourraient créer des hallucinations ou produire de l’IA slop en masse.
4/ La coordination multi-agents
Une dernière voie possible permettant d’atteindre la Super Intelligence Artificielle implique la coordination à grande échelle d’une batterie d’agents au sein de structures collectives complexes. Dans ce modèle, chaque agent est responsable d’une tâche précise et se voit cornaqué par des méta-agents garants du delivery, et de la cohérence de la stratégie.
Façon de reproduire le modèle organisationnel des entreprises à l’échelle des modèles IA d’aujourd’hui. Si c’est cette voie qui s’impose, OpenClaw ou des modèles ouverts comme Hermès semblent avoir une longueur d’avance.
Gardons-nous toutefois d’y voir une voie royale car elle suppose une capacité de délégation absolue dans la prise de décision et l’exécution. Collectivement y sommes-nous prêts ? On voit qu’en Argentine, on réfléchit déjà à donner la compétence morale aux agents IA. Reste que ce modèle de collectif d’agents est soumis aux aléas des calendriers réglementaires, voire aux actions de rétorsion que l’on voit déjà ça et là (quasiment un Américain sur deux saboteraient dans son entreprise le déploiement de l’IA).
Bientôt des agents IA luddistes ?
Alors évidemment, tout semble fluide dans cette note de DeepMind. Et le jargon technique utilisé ne doit pas masquer une forme d’heuristique propre à ce type de démarche de l’esprit.
Ni qu’il s’inscrit évidemment dans un agenda commercial particulier. C’est d’ailleurs le lot de toutes les prises de position aujourd’hui des géants de la tech qui tous nous servent un narratif qui va précisément dans le sens de leurs affaires (hasard de dingue), au risque parfois de jeter un discrédit général sur une démarche réflexive qui me semble pourtant essentielle.
Et les promoteurs de contre-modèles ne sont pas exempts naturellement de ce même grief. L’équation économique du moment drive les discours et les prises de position.
Un point de concorde toutefois : tout porte à croire que la rupture anthropologique que l’on connaît avec l’IA sera sans précédent à l’échelle de notre génération. Jamais, nous avons eu ce type de bouillonnement intellectuel avec les dernières innovations technologiques. On sent bien que l’AGI aujourd’hui et l’ASI demain nous promettent le grand saut. Reste à savoir si c’est dans le vide.
