Niveau de Supervision humaine le plus élevé, où l'humain définit les objectifs, les contraintes éthiques et les limites d'utilisation du système d'IA sans intervenir dans les décisions opérationnelles individuelles. Ce mode de gouvernance est adapté aux systèmes à faible risque ou aux cas où la vitesse de décision rend l'intervention humaine directe impossible.
La gouvernance stratégique de l'IA, ou "Human-over-the-loop", est cruciale pour encadrer les risques et maximiser les opportunités ESG des systèmes d'intelligence artificielle, en assurant que l'humain conserve la maîtrise des objectifs, des valeurs éthiques et des limites d'usage, même sans intervention opérationnelle directe. Elle permet de prévenir les biais algorithmiques, les impacts environnementaux non intentionnels et les atteintes aux droits humains, tout en favorisant une innovation responsable. Cette approche est directement liée aux exigences de l'AI Act, notamment l'article 14 sur la Supervision humaine, et aux principes de gouvernance de l'ESRS G1, qui requièrent une supervision effective des stratégies de durabilité et des risques associés aux technologies. Une telle gouvernance renforce la fiabilité et l'auditabilité des données utilisées et produites par l'IA, contribuant ainsi à une analyse de double matérialité plus robuste et à la prévention du Greenwashing technologique.
Le comité d'éthique IA d'un groupe industriel définit les règles d'utilisation de l'IA pour le reporting ESG (modèles autorisés, seuils d'intervention, données interdites), puis délègue l'exécution quotidienne au système avec des revues trimestrielles.
Termes connexes (Gouvernance)
Comité éthique IA
Instance de gouvernance chargée d'évaluer les implications éthiques, sociales et environnementales des projets d'intelligence artificielle. Distinct du comité technique, il se concentre sur les biais, l'équité, la transparence et l'impact sociétal des systèmes IA déployés.
Injection de prompt
Attaque par laquelle un utilisateur malveillant insère des instructions cachées dans un contenu exploité par un modèle d'IA (email, document web, commentaire), afin de détourner le comportement du système, extraire des données ou générer des résultats non prévus. C'est l'une des vulnérabilités les plus critiques des applications RAG et des agents IA, avec des conséquences directes sur la confidentialité, la conformité et l'intégrité du reporting ESG.
Contournement des garde-fous
Technique visant à contourner les mécanismes de sécurité et les règles éthiques d'un modèle d'IA pour obtenir des contenus interdits, dangereux, biaisés ou non conformes. Les jailbreaks exploitent les failles de l'alignement par le RLHF (reinforcement learning from human feedback) via des scénarios de rôle, des prompts encodés ou des manipulations sémantiques. En ESG, ils peuvent être utilisés pour générer de faux rapports de durabilité ou tromper les systèmes de scoring.
Tests offensifs
Les tests offensifs consistent à faire passer un modèle d'IA à un examen de stress mené par des experts qui cherchent à le faire dérailler, comme un test d'intrusion pour un logiciel. Méthodologie de tests offensifs dans laquelle une équipe d'experts tente délibérément de provoquer des défaillances, des biais, des hallucinations ou des comportements dangereux d'un système d'IA. Le red teaming est exigé par l'AI Act pour les modèles à haut risque et les modèles à risque systémique, et constitue une bonne pratique pour tout système utilisé dans le reporting ESG.
Garde-fous de sécurité IA
Ensemble de filtres, règles et mécanismes techniques appliqués avant, pendant ou après l'inférence d'un modèle d'IA pour limiter les comportements indésirables (contenus toxiques, hallucinations, fuites de données, instructions dangereuses). Les guardrails peuvent être intégrés au modèle (input/output filtering) ou déployés en couches autour de l'application (policy engine, PII detection). Ils sont essentiels pour la conformité AI Act et l'intégrité du reporting ESG.
Pollution par contenus IA de basse qualité
L'AI slop est l'équivalent du spam généré par l'intelligence artificielle : des textes ou images produits en masse, souvent de mauvaise qualité, qui encombrent le web et les rapports. Contenu généré massivement par l'IA, de faible qualité, peu original ou trompeur, qui pollue le web, les réseaux sociaux et les bases de données. L'AI slop pose un risque de désinformation, de dégradation des corpus d'entraînement futurs (model collapse) et de greenwashing lorsque des contenus ESG sont produits sans validation humaine.