Dépendance économique et explosion des coûts, les angles morts de l’IA.
L’essentiel
— Une facture IA encore mal maîtrisée : entre surconsommation de tokens, licences inutilisées et mauvais dimensionnement entre modèles légers et de pointe, une part significative des coûts relève aujourd’hui du gaspillage.
— Un risque croissant de dépendance : en centralisant leurs outils, données et process sur quelques modèles, les entreprises s’exposent à un verrouillage technologique difficilement réversible.
— Un modèle économique incertain : derrière la promesse de productivité, l’IA repose sur une logique de coûts variables (compute) encore peu pilotée et rarement optimisée.
— Une nécessaire reprise en main : gouvernance des usages, pilotage des coûts par livrable vs par token, et sobriété opérationnelle deviennent des leviers clés pour éviter les dérives.
Nous sommes ravis de retrouver Jérémy Lacoste, contributeur sur la Réclame. Jérémy est directeur général France de l’agence Eskimoz. C’est un expert du marketing digital, des martech et de la publicité en ligne. Il a pour grande qualité de partager chaque semaine ses analyses et observations, que ce soit sur LinkedIn, dans son podcast Icebreaker, en tant qu’enseignant ou dans ses tribunes sur la Réclame.
Que se passe-t-il si demain, Claude et consorts décidaient de manière arbitraire d’augmenter leur prix de 300 % ? Panique générale, mais tout le monde passerait à la caisse. C’est en tout cas le risque qui nous pend au nez et vers lequel nous fonçons tout droit.
Et c’est notamment la mésaventure de l’entreprise Latitude qui a vu ses coûts GPT exploser il y a quelques mois, au point que cela a quasiment mis la boîte en péril. Son PDG rappelle : « On plaisantait en disant qu’on avait des employés humains et des employés IA, et qu’on dépensait à peu près autant pour chacun ». En cause : le détournement de ses fonctionnalités d’origine pour générer du contenu très énergivore en tokens.
Heureusement, cela ne constitue pas encore un cas d’école, même si on sent bien que dans les organisations, la gestion de la facture des usages IA est encore relativement rudimentaire. Goldman Sachs a commandité une étude interne sur le sujet. Résultat : 40 % des coûts sont du gaspillage, mélange de mauvais dimensionnement, de licences non utilisées, ou de sur-usage des tokens.
À terme, se dessine donc le risque pour les entreprises d’être prisonnières des moteurs IA. On parle de vendor lock-in. Une position dans laquelle nous nous sommes collectivement placés.
I. Comment les marques se retrouvent « vendor lock-in »
Pourtant la stratégie est connue et vieille comme le web :
1. Déploiement de services (quasi) gratuits pour générer de la traction et un fort taux d’adoption : Google l’a fait par le passé ; et l’a d’ailleurs reproduit avec Gemini intégré dans les Workspaces. Objectif : devenir incontournable et remporter le marché ;
2. Inflation tarifaire progressive, sous couvert de montée en gamme des services proposés : C’est le modèle Uber. L’adoption marché laisse progressivement la place à un phénomène d’accoutumance qui fait que chaque hausse tarifaire ne génère pas de churn. Résultat : ChatGPT a multiplié ses prix tokens par 3 (et prévoit de faire de même sur son abonnement d’ici 2030)… tandis que Claude a multiplié la consommation de ses tokens pour une même requête. De la shrinkflation déguisée… mais cela passe.
3. Course à l’échalote entre les organisations : c’est à qui sera le meilleur élève. Et c’est précisément là où nous nous situons en ce moment. Certaines entreprises basculent toute leur architecture technique sur les moteurs IA, autant par souci d’efficacité que pour communiquer dessus. C’est Meta qui lance un concours interne sur l’utilisation de Claude ; c’est Block qui licencie 4 000 personnes et se déclare IA only ; c’est PwC qui déploie son offre Agent OS, en full IA…
Ce sont aussi et surtout les dizaines de marques qui font la queue pour faire du GEA sur ChatGPT alors que la plateforme est bancale ; ces structures qui rationalisent leur masse salariale sous prétexte que l’IA les rend 3 fois plus efficaces ; ces CTO qui se photographient avec leurs ChatGPT Awards, ces trophées envoyés aux clients qui consomment le plus de tokens ; ce sont enfin les patrons des big tech qui déclarent qu’un bon dev doit dépenser autant en tokens qu’en salaire.
C’est l’application du paradoxe de Jevons : les prix unitaires baissent (ce qui est vrai pour les anciens modèles), mais la facture explose. Car les usages se densifient ; et que tout le monde veut tâter du nouveau modèle.
4. Dépendance généralisée des organisations à ces services. C’est le modèle Salesforce. Maintenant que les équipes sont formées, les process migrés, l’architecture définie, les données intégrées… bref que le cœur du réacteur est concentré dans ces modèles IA, le coût de la migration devient insupportable. Et le rapport de force se fait en faveur du provider. Et de son arbitraire.
On a eu un cas très récent avec le découplage d’OpenClaw des forfaits de Claude du jour au lendemain, faisant tomber des business, sans que quiconque ait son mot à dire.
Alors les boîtes payent. Avec un objectif : être capable de payer un mois de plus que leur concurrent pour remporter le marché. C’est un jeu de dupes.
II. Les raisons de cette dépendance
Posons la question : comment en sommes-nous arrivés là ?
Il y a d’abord une équation économique à laquelle doivent répondre les acteurs IA qui aujourd’hui malgré cette inflation tarifaire ne sont toujours pas rentables. Tous cherchent le modèle économique le plus efficace pour y accéder :
— ChatGPT : abonnement, API et monétisation
— Claude : abonnement, API et restriction d’usage
— Gemini : abonnement, API, et GPU/Cloud
Il y a aussi la bascule historique des modèles SaaS à l’abonnement et aux volumes de sièges vers un modèle au compute. Sur le papier, c’est intéressant pour les marques qui ne payent qu’au consommable. Mais empiriquement, cela ne fonctionne que si c’est piloté. Or aujourd’hui, cela reste très largement un sujet non adressé. Une étude McKinsey révèle que près d’une organisation sur deux a largement sous-estimé le coût de l’inférence IA. Quand on sait que d’ici un an, ce sera le premier poste de dépense tech pour la majorité des entreprises si l’on en croit Gartner, il y a de quoi se faire du souci.
Il y a également un effet de panique morale. La peur que si on ne bascule pas les deux pieds dans l’ère du tout-token, on risque de disparaître. C’est vrai pour les sociétés qui ont donné carte blanche à leur équipe IT/ Marketing pour travailler ce sujet… mais c’est vrai aussi pour les dev/ingénieurs. En creux reste l’idée que l’on sera jugé in fine sur le volume de tokens consommés, un peu comme chez X sous l’ère Musk qui jugeait la productivité de ses techs sur l’épaisseur du code généré. Ces considérations, évidemment, ne tiennent pas compte de la qualité des livrables produits. On est ici dans une logique de masse, un peu bêbête.
Il y a enfin un peu de wishful thinking. Après quelques années de vaches maigres, les CEO semblent satisfaits d’avoir trouvé dans l’IA ce qui apparaît comme le nouveau veau d’or. Il faut donc montrer au marché, à ses investisseurs, à ses partenaires, ses clients et même en interne que l’on a pris le virage de l’IA en tête. Quitte à se brûler les ailes (et du cash) sur des projets ou des enjeux de transformation prématurés.
Pour le dire différemment, aurait-on confiance dans une direction qui nous dirait qu’aujourd’hui, l’IA ce n’est pas sa top priorité du moment ? Alors que fondamentalement pour une large partie des organisations, le sujet me semble être encore au stade précédent de construction de socles de données communs (et à minima de diffusion de solutions IA sur étagère, mais guère plus).
Il y a au final une inertie aujourd’hui qui est due au modèle des IA. En cause : les effets de réseaux. Plus ces modèles sont partagés en entreprise et sont alimentés par des données propriétaires, et plus les réponses et scénarios livrés sont pertinents. Le coût du changement est chaque jour de plus en plus important et rend la réversibilité vraiment hypothétique. On l’a vu avec le récent déploiement d’Opus 4.7 qui a cassé bon nombre de Skills présents dans Claude, alors qu’on parle juste d’une montée de version.
III. Comment retrouver des zones de liberté ?
– Mesurer : j’enfonce une porte ouverte, mais on ne pilote que ce que l’on mesure. Combien de structures sont aujourd’hui en capacité, ne serait-ce que de dimensionner leur parc de licences IA, ou de consommation de tokens ? Et je ne parle même pas de faire des projections.
La bonne approche est aujourd’hui de construire un schéma organisationnel avec une gouvernance des outils et des niveaux d’accès. Pour éviter le shadow IA ou le mauvais calibrage des outils IA.
– Faire de l’IA une dépense OPEX : là où les entreprises sont plutôt tentées de les mettre côté CAPEX. Ça me semble pertinent pour avoir une approche saine du consommable IA et éviter tout dérive grossière dans son usage. 3 ans après l’arrivée des IA generatives, on est en droit d’attendre un ROI.
En revanche, sa diffusion doit être pensée comme du CAPEX, c’est-à-dire qu’il faut penser réversibilité au moment de son déploiement ; préférer la position agnostique plutôt que devenir dépendant d’un seul acteur ; l’intégrer sur les lignes budgets métier au lieu d’en faire une dépense à part.
– Former : pas tant à l’usage des modèles IA, mais plutôt à leur bon usage. Et notamment aux bonnes pratiques autour de la sobriété pour éviter d’exploser les compteurs inutilement. Il y a tout un tas de réflexes à adopter pour faire baisser la facture :
• Privilégier les modèles moins récents pour les demandes classiques ;
• Éviter d’intégrer de gros assets comme les vidéos, PDF, etc. ;
• Ouvrir de nouvelles conversations pour des demandes décorrélées afin d’éviter que le modèle travaille sur tout le corpus ;
• Demander de résumer une conversation pour prolonger un échange long ;
• Privilégier les Skills ;
• Prompter plutôt en anglais pour éviter de payer « une taxe traduction »
Bref, il va falloir commencer à penser sobriété IA. Et pour ce faire, je serais d’avis d’arrêter de parler en coût par millions de tokens, mais plutôt en coût par livrable. Cela me semble être une bonne métrique à inventer et à rendre visible dans les organisations.
Un équivalent TJM pour agents IA finalement. Je suis sûr que l’on aurait des surprises.
