Le coût des modèles d’intelligence artificielle (IA) ne cesse de diminuer.
Le prix par token baisse, les modèles deviennent plus efficaces et de nombreuses entreprises peuvent désormais accéder à des capacités qui étaient encore très coûteuses il y a quelques années. À première vue, cela devrait rendre l’IA de plus en plus abordable.
Pourtant, une nouvelle problématique apparaît avec la montée en puissance des agents IA : le coût d’un modèle n’est plus nécessairement représentatif du coût réel d’une tâche.
Selon Gartner, le coût d’inférence par workflow agentique pourrait augmenter de plus de cinq fois d’ici 2028, malgré la baisse continue du prix des tokens. Gartner décrit cette situation comme un « inference paradox » : lorsque l’IA devient moins chère et plus capable, les entreprises ont tendance à lui confier des tâches plus complexes et à l’utiliser davantage.
Le problème n’est donc plus simplement de savoir combien coûte un million de tokens.
Il faut désormais comprendre combien coûte réellement l’exécution complète d’une tâche par un agent IA.
Pourquoi les agents coûtent plus cher que les chatbots
Un chatbot classique fonctionne généralement selon un modèle relativement simple :
Utilisateur → modèle IA → réponse
Un agent IA fonctionne différemment.
Pour accomplir une tâche, il peut devoir :
- analyser la demande ;
- planifier les étapes nécessaires ;
- appeler un outil ;
- analyser le résultat ;
- modifier son approche ;
- appeler un autre outil ;
- vérifier le résultat ;
- générer une réponse finale.
Une seule demande peut donc entraîner plusieurs appels au modèle ainsi que de nombreuses opérations supplémentaires.
Les recherches récentes sur les workloads agentiques montrent justement que ces systèmes se comportent très différemment des applications traditionnelles de LLM. Les agents combinent inférence, appels d’outils, récupération de données, orchestration et état persistant, ce qui crée de nouveaux coûts en calcul, mémoire et communication.
Autrement dit, un agent ne consomme pas seulement des tokens. Il consomme une architecture.
Le contexte devient lui aussi un coût
Un autre élément souvent sous-estimé est la quantité de contexte nécessaire à un agent.
À chaque étape, le modèle peut devoir prendre en compte :
- les instructions du système ;
- l’historique de la conversation ;
- les résultats des outils précédents ;
- les données récupérées ;
- les définitions des outils disponibles ;
- les informations nécessaires pour décider de la prochaine action.
Plus le workflow devient complexe, plus la quantité d’informations à traiter peut augmenter.
Cela signifie qu’un agent peut rapidement consommer beaucoup plus de tokens qu’une simple interaction avec un chatbot.
Le problème n’est donc pas uniquement la taille de la réponse générée. Le coût peut être accumulé à chaque étape du raisonnement et de l’exécution.
Des travaux récents sur les systèmes agentiques montrent également que le contexte et les composants auxiliaires peuvent représenter une part importante du workload, tandis que les appels redondants aux outils créent des opportunités importantes d’optimisation et de mise en cache.
Le modèle le plus puissant n’est pas toujours le meilleur choix
Une autre erreur fréquente consiste à utiliser le modèle le plus avancé pour toutes les tâches.
Un modèle capable de résoudre un problème complexe de raisonnement n’est pas nécessairement nécessaire pour classer un email, extraire quelques informations d’un document ou déterminer si une demande doit être transférée.
Dans une architecture agentique, différentes tâches peuvent nécessiter différents niveaux de capacité.
On peut par exemple utiliser :
Un modèle plus puissant pour la planification et les décisions complexes.
Un modèle plus léger pour les tâches répétitives et prévisibles.
Une automatisation déterministe lorsqu’aucun raisonnement par IA n’est réellement nécessaire.
Cette approche, souvent appelée model routing, permet de sélectionner le modèle approprié en fonction de la complexité de la tâche.
Les entreprises commencent déjà à mettre en place ce type d’architecture. Uber, par exemple, a récemment indiqué que ses requêtes d’agents IA avaient augmenté de 9,4 fois depuis février 2026, tout en maintenant ses coûts globaux d’IA relativement stables grâce notamment à des stratégies d’optimisation et à l’utilisation de modèles plus économiques.
Le principe est relativement simple :
Ne pas utiliser un modèle coûteux lorsqu’un modèle moins coûteux peut faire correctement le travail.
L’automatisation reste parfois plus efficace que l’IA
Cela peut sembler contre-intuitif dans un contexte où les entreprises cherchent à intégrer l’IA partout.
Mais toutes les tâches ne nécessitent pas un agent.
Si un processus suit toujours les mêmes étapes, une automatisation traditionnelle peut être plus rapide, plus prévisible et moins coûteuse.
Par exemple :
Si une facture arrive → extraire les informations → vérifier le montant → enregistrer dans l’ERP → envoyer une notification.
Si les règles sont clairement définies, il n’est pas forcément nécessaire de demander à un agent IA de décider quoi faire à chaque étape.
En revanche, si le processus nécessite d’interpréter une demande, de rechercher des informations dans plusieurs systèmes et de déterminer dynamiquement les prochaines étapes, l’utilisation d’un agent peut apporter une réelle valeur.
L’enjeu n’est donc pas de remplacer l’automatisation par l’IA.
C’est de déterminer où le raisonnement de l’IA apporte suffisamment de valeur pour justifier son coût.
Le véritable coût n’est pas celui du token
Le prix affiché par les fournisseurs de modèles reste une donnée importante, mais il ne représente qu’une partie de l’équation.
Le coût réel d’un agent peut également inclure :
- les appels multiples au modèle ;
- les appels aux API et aux outils ;
- la récupération de données ;
- l’infrastructure nécessaire à l’exécution ;
- le stockage et la gestion du contexte ;
- la supervision ;
- la sécurité ;
- les reprises après erreur ;
- les validations humaines ;
- les tâches supplémentaires générées par une mauvaise réponse.
Un agent qui coûte quelques centimes par interaction peut sembler très économique.
Mais si cette interaction est répétée des milliers ou des millions de fois, ou si chaque tâche nécessite plusieurs appels au modèle et à différents systèmes, la facture peut rapidement devenir importante.
C’est pourquoi la bonne unité de mesure n’est peut-être plus simplement :
« coût par million de tokens »
mais plutôt :
« coût par tâche métier réussie ».
Cette distinction devient particulièrement importante pour les entreprises qui passent de quelques prototypes à des déploiements à grande échelle.
Une nouvelle discipline : l’optimisation des coûts IA
À mesure que les agents IA se généralisent, les entreprises vont devoir développer de nouvelles pratiques de gestion des coûts.
Cela peut commencer par des mesures relativement simples :
- Mesurer: Identifier quels modèles sont utilisés, pour quelles tâches, avec combien d’appels et combien de tokens.
- Router: Diriger chaque tâche vers le modèle approprié plutôt que d’utiliser systématiquement le modèle le plus puissant.
- Réduire le contexte: Éviter de transmettre des informations inutiles à chaque étape du workflow.
- Mettre en cache: Éviter de refaire des recherches ou des appels identiques lorsque les résultats peuvent être réutilisés.
- Limiter les boucles: Un agent qui continue à raisonner ou à appeler des outils sans progresser peut rapidement générer des coûts inutiles.
- Automatiser lorsque c’est possible: Lorsqu’une tâche est déterministe, un workflow classique peut être plus efficace qu’un agent.
Ces optimisations ne consistent donc pas simplement à trouver le modèle le moins cher.
Elles consistent à concevoir une architecture capable d’utiliser l’IA uniquement là où elle crée une valeur réelle.
Le véritable enjeu : le rapport entre coût et valeur
La baisse du prix des tokens reste une excellente nouvelle pour les entreprises.
Mais elle peut également encourager une utilisation beaucoup plus importante de l’IA.
C’est précisément ce qui crée le paradoxe actuel : une technologie moins chère peut finalement générer une facture plus importante lorsqu’elle permet d’automatiser davantage de tâches et de construire des workflows plus complexes.
L’objectif ne devrait donc pas être de rendre chaque interaction IA aussi peu coûteuse que possible.
L’objectif devrait être de trouver le meilleur équilibre entre coût, performance, fiabilité et valeur métier.
Dans une architecture bien conçue, un agent IA ne remplace pas systématiquement un workflow traditionnel. Il intervient lorsqu’il apporte une capacité supplémentaire : comprendre une demande, prendre une décision, adapter un processus ou orchestrer plusieurs systèmes.
Le futur de l’IA en entreprise ne sera donc probablement pas construit autour d’un seul modèle capable de tout faire.
Il reposera plutôt sur une combinaison de modèles spécialisés, d’agents, d’automatisations déterministes et d’infrastructures capables de router chaque tâche vers la solution la plus appropriée.
À mesure que le prix de l’intelligence artificielle continue de baisser, la question ne sera plus seulement :
« Combien coûte l’IA ? »
Mais plutôt :
« Combien coûte l’utilisation de l’IA pour accomplir cette tâche, et quelle valeur cette utilisation génère-t-elle réellement ? »
Sources
Agentic AI Workload Characteristics
Gartner: AI Inference Costs and Agentic Workflows