Comprendre et piloter l'IA en entreprise

Système d'IA capable d'enchaîner plusieurs actions de façon autonome pour atteindre un objectif : rechercher, appeler des outils, rédiger. Chaque étape consomme des tokens, ce qui rend son coût difficile à prévoir sans plafond.

Règlement (UE) 2024/1689 sur l'intelligence artificielle. Il encadre les systèmes d'IA selon leur niveau de risque et s'applique aux fournisseurs comme aux entreprises qui les utilisent. Les sanctions peuvent atteindre 35 millions d'euros ou 7 % du chiffre d'affaires mondial.

Réservation d'une capacité de calcul auprès d'un éditeur ou d'un cloud, à prix négocié et en échange d'un engagement de durée ou de volume. Adaptée aux usages importants et réguliers.

Coût ramené à une unité de valeur : par utilisateur, par document traité, par conversation ou par client servi. C'est l'indicateur qui permet de juger si une dépense IA est rentable.

Enveloppe achetée à l'avance auprès d'un éditeur et décomptée au fil de l'usage. Les crédits non consommés peuvent expirer à échéance, d'où l'intérêt de suivre leur niveau.

Règlement (UE) 2026/1744, entré en vigueur le 27 juillet 2026, qui modifie l'AI Act. Il reporte plusieurs échéances, recalibre l'obligation de maîtrise de l'IA et allège les sanctions applicables aux PME.

Modèle où l'on paie ce que l'on consomme : tokens, requêtes, minutes ou images générées. Flexible, il rend le budget difficile à prévoir sans suivi régulier de la consommation.

Quantité maximale de texte, mesurée en tokens, qu'un modèle peut prendre en compte en une seule requête. Remplir la fenêtre de contexte avec des informations inutiles augmente le coût sans améliorer la réponse.

Discipline de gestion financière des dépenses technologiques à l'usage, née dans le cloud. Elle réunit finance, technique et métiers autour de trois temps : rendre les coûts visibles, les optimiser, puis les piloter dans la durée.

Application du FinOps aux dépenses d'intelligence artificielle. Elle agit sur cinq leviers : le choix du modèle, les prompts, les usages, l'infrastructure et les données, pour supprimer le gaspillage sans dégrader les résultats.

Ensemble des règles, rôles et processus qui encadrent l'usage de l'IA dans l'entreprise : outils autorisés, données utilisables, validation des achats, suivi des risques et de la conformité.

Réponse d'un modèle d'IA qui paraît plausible mais qui est fausse ou inventée. D'où la nécessité de vérifier les contenus produits avant de les utiliser.

Fonctions d'intelligence artificielle ajoutées à des logiciels déjà utilisés (CRM, bureautique, comptabilité), parfois incluses, parfois en option payante. C'est la couche de dépenses IA la plus souvent oubliée dans les budgets.

Norme internationale certifiable qui décrit un système de management de l'intelligence artificielle. Elle aide une organisation à structurer sa gouvernance de l'IA de façon reconnue.

Licence attribuée à un utilisateur qui ne s'en sert pas ou très peu. La réattribuer ou la résilier avant son renouvellement est l'une des économies les plus rapides à obtenir.

Large Language Model, ou grand modèle de langage. Modèle d'IA entraîné sur de très grands volumes de texte, capable de comprendre et de produire du langage. C'est le moteur des assistants conversationnels.

Obligation de l'article 4 de l'AI Act, applicable depuis le 2 février 2025 : prendre des mesures pour que les équipes qui utilisent l'IA en comprennent le fonctionnement, les limites et les risques.

Obligation de l'article 50 de l'AI Act, applicable depuis le 2 août 2026 : informer qu'un utilisateur échange avec un chatbot, et signaler les contenus générés par IA et les hypertrucages.

Document interne qui fixe ce que les collaborateurs peuvent faire ou non avec l'IA : outils autorisés, types de données interdits, règles de vérification des contenus produits.

Instruction envoyée à un modèle d'IA, avec le contexte nécessaire. Sa longueur influe directement sur le coût, et sa qualité sur la pertinence de la réponse.

Mise en cache de la partie d'un prompt qui se répète d'un appel à l'autre, comme des instructions générales ou un document de référence. La partie en cache est facturée beaucoup moins cher : jusqu'à 90 % de moins chez Anthropic, selon sa documentation.

Retrieval-Augmented Generation. Technique qui fournit au modèle des extraits de documents de l'entreprise pour qu'il réponde à partir de sources fiables. Mal réglée, elle envoie trop de contexte et fait grimper la facture.

Inventaire tenu à jour des outils et systèmes d'IA utilisés dans l'entreprise, avec leur usage, leur responsable et leur niveau de risque. C'est la base de toute démarche de conformité à l'AI Act.

Orientation automatique de chaque requête vers le modèle le plus adapté : un modèle léger pour les tâches simples, un modèle plus puissant pour les tâches complexes. Un levier direct de réduction du coût unitaire.

Usage d'outils d'IA par les collaborateurs sans validation de la direction ou de la DSI. Il crée un double risque : des dépenses hors budget et des données sensibles transmises à des outils non maîtrisés.

Deux façons de répartir les coûts IA entre services. Le showback montre à chaque service ce qu'il consomme, le chargeback le lui refacture. Les deux responsabilisent les équipes sur leurs usages.

Système d'IA utilisé dans un domaine sensible listé par l'AI Act, comme le recrutement, le crédit ou l'éducation. Il est soumis à des exigences renforcées, applicables à partir du 2 décembre 2027 pour l'annexe III selon le règlement (UE) 2026/1744.

Modèle de facturation à prix fixe par utilisateur et par mois, typique des assistants IA en version entreprise. Simple à budgéter, il devient coûteux lorsque des licences restent attribuées sans être utilisées.

Fragment de texte, souvent une partie de mot, que le modèle d'IA traite comme une unité. Les modèles accessibles par API facturent au nombre de tokens traités, avec un prix différent pour les tokens envoyés (entrée) et produits (sortie).

Envoi groupé de requêtes non urgentes, traitées en différé par l'éditeur. En contrepartie du délai, le prix est réduit : 50 % de moins chez OpenAI pour son API Batch, selon sa documentation.