L'effondrement des modèles est un phénomène d'appauvrissement progressif d'un modèle d'IA quand on le réentraîne avec des données qu'il a lui-même générées, comme une copie de copie qui perd du détail à chaque génération.
Phénomène de dégradation progressive des modèles d'IA générative entraînés ou affinés sur des données synthétiques générées par d'autres modèles. Les modèles oublient les distributions rares des données réelles et amplifient les erreurs, conduisant à une dégradation qualitative. Ce risque menace la qualité des corpus ESG et la fiabilité des outils d'analyse automatique si le web est saturé d'AI slop.
Risque systémique et cumulatif — pas un défaut ponctuel : chaque génération d'entraînement sur données synthétiques rétrécit la variance apprise et efface d'abord les signaux rares (controverses, minorités, secteurs peu représentés), qui sont précisément ceux qui portent le plus de valeur ESG (droits humains, biodiversité locale, chaînes de valeur amont). Deux implications directes pour les data teams ESG : (1) filtrer et pondérer les données synthétiques dans tout pipeline RAG ou fine-tuning, avec un plafond documenté (généralement < 20 %) ; (2) sanctuariser des jeux de données humaines vérifiées et versionnées, tracées dans le registre modèle exigé par l'ISO 42001, pour garantir la stabilité de la performance dans le temps.
Un modèle de classification ESG est réentraîné sur un corpus contenant 60 % de rapports générés par IA. Au fil des itérations, sa capacité à détecter les controverses sociales rares s'effondre, entraînant des scores biaisés.
Termes connexes (Technologie)
IA fantôme (Shadow AI)
Utilisation non autorisée d'outils d'intelligence artificielle par les employés, contournant les politiques de sécurité, de conformité et de gouvernance de l'entreprise. Ce phénomène représente un risque ESG majeur : fuite de données sensibles, non-conformité RGPD/IA Act, absence de traçabilité et d'audit.
Ingénierie de prompt ESG
Discipline d'optimisation des instructions textuelles (prompts) données aux modèles d'IA pour obtenir des réponses pertinentes, précises et conformes aux exigences du reporting de durabilité. Inclut la structuration des requêtes, l'injection de contexte réglementaire et la réduction des hallucinations.
Hallucination IA
Génération par un modèle d'IA de contenus faux, inventés ou non étayés par les données sources, présentés avec une apparence de certitude. Risque critique pour le reporting ESG où l'exactitude et la traçabilité des informations sont essentielles pour l'audit externe.
Token (unité de traitement IA)
Unité élémentaire de texte traitée par les modèles de langage (environ 4 caractères ou 0,75 mot en français). Le nombre de tokens détermine le coût de calcul, la consommation énergétique et l'empreinte carbone d'une requête IA. Métrique clé pour l'optimisation Green AI.
GPU (Processeur graphique)
Processeur spécialisé dans le calcul parallèle, essentiel pour l'entraînement et l'inférence des modèles d'IA. Les GPU représentent la principale source de consommation énergétique et d'émissions carbone des infrastructures IA, avec des enjeux d'approvisionnement en terres rares et de recyclage.
Récupération de chaleur fatale (data center)
Valorisation de la chaleur résiduelle générée par les serveurs et GPU des centres de données pour alimenter des réseaux de chauffage urbain, des serres agricoles ou des processus industriels. Levier clé d'économie circulaire pour réduire l'impact environnemental net des infrastructures IA.