Mesures liant le nombre de tokens générés ou traités par requête à la consommation énergétique associée. Ces métriques permettent d'estimer et de suivre l'empreinte carbone des applications basées sur des LLM.
Les métriques de tokens et d'énergie sont cruciales pour évaluer l'empreinte environnementale des systèmes d'IA, particulièrement les grands modèles de langage, et s'inscrivent directement dans la problématique de la sobriété numérique.
Une équipe data calcule que chaque million de tokens générés par leur chatbot consomme environ 0,5 kWh, permettant d'intégrer cette métrique dans leur tableau de bord ESG.
Termes connexes (Environnement)
Green AI & eco-conception IA
Stratégie holistique réduisant l'empreinte carbone de l'IA : quantization, pruning, distillation, choix d'architectures légères. Elle intègre l'impact environnemental dès la phase de conception et non a posteriori.
Scope 3 de l'Intelligence Artificielle
Émissions indirectes de gaz à effet de serre générées par l'utilisation de systèmes d'IA tout au long de leur chaîne de valeur : fabrication des puces (TSMC, Samsung), consommation électrique des data centers, refroidissement par eau, et fin de vie des équipements. En 2025, les émissions Scope 3 de l'IA représentent environ 75% de l'empreinte carbone totale du secteur numérique selon l'AIE.
PUE – Indice d'efficacité énergétique des data centers
Indicateur d'efficacité énergétique qui exprime le ratio entre l'énergie totale consommée par un data center et l'énergie réellement utilisée par les équipements informatiques. Plus le PUE se rapproche de 1, plus le data center utilise efficacement l'électricité disponible.
WUE – Indice d'efficacité en eau des data centers
Indicateur qui rapporte le volume d'eau consommé au fonctionnement d'un data center à l'énergie délivrée aux équipements informatiques, généralement exprimé en litres par kWh. Il permet d'évaluer l'empreinte hydrique des infrastructures numériques dans un contexte de stress croissant sur la ressource en eau.
Émissions d'entraînement des LLM
Émissions de gaz à effet de serre générées lors de l'entraînement initial des grands modèles de langage, souvent très intensif en calcul et concentré sur quelques semaines. Ces émissions peuvent atteindre plusieurs milliers de tonnes de CO₂e pour un seul modèle, selon la taille du modèle, l'architecture et la source d'énergie utilisée.
Émissions d'inférence des LLM
Émissions quotidiennes générées par les requêtes adressées aux modèles d'IA en production, lorsque ceux-ci répondent à des utilisateurs ou traitent des flux automatiques. À long terme, les émissions liées à l'inférence dépassent souvent celles de la phase d'entraînement, surtout pour les services très utilisés.