Pilotage des travailleurs par des systèmes automatisés (attribution des tâches, notation, sanction, rémunération variable) sans intervention humaine directe. Classé à haut risque par l'EU AI Act lorsqu'il est utilisé en RH ou dans les plateformes de travail, il fait l'objet d'obligations de transparence, de Supervision humaine et d'évaluation d'impact sur les droits fondamentaux (FRIA). C'est un datapoint majeur de l'ESRS S1 (main-d'œuvre propre).
Le management algorithmique pose des risques sociaux majeurs en matière de droits humains, de conditions de travail et de santé psychologique, en raison de l'absence de Supervision humaine, des biais potentiels dans l'attribution des tâches, la notation ou les sanctions, et de la dépendance des travailleurs vis-à-vis de systèmes opaques.
Un groupe de logistique déploie un outil d'ordonnancement IA. Il conduit une FRIA, notifie les représentants du personnel, garantit un droit d'explication individuel et publie dans son ESRS S1-13 le taux de décisions revues par un humain (18 %).
Termes connexes (Social)
Biais algorithmique et discrimination
Distorsions systématiques dans les décisions fondées sur l'IA qui conduisent à des traitements inéquitables ou discriminatoires entre individus ou groupes. Ces biais proviennent généralement de données d'entraînement non représentatives, de variables proxy ou d'un étiquetage humain subjectif.
Audit de biais & test d'équité
Processus d'évaluation systématique des biais des modèles d'IA selon des métriques standardisées comme la parité démographique, l'équité des résultats et la calibration. Ces audits testent la performance du modèle sur des segments stratifiés par genre, ethnie et autres caractéristiques protégées.
Annotation de données & modération contenu
Activités externalisées consistant à étiqueter des données pour l'entraînement d'IA ou à modérer des contenus générés. Ces tâches exposent les travailleurs à des contenus violents, offensants ou traumatisants, posant des enjeux importants de bien-être psychologique et de conditions de travail décentes.
Formation continue reskilling & upskilling IA
Programmes de formation destinés à adapter les compétences des salariés aux transformations induites par l'IA, soit en les développant dans leurs domaines actuels (upskilling) soit en les préparant à de nouveaux métiers (reskilling). Ces dispositifs adressent les risques de déplacement d'emplois et d'inégalités de compétences.
Due diligence supply chain IA & travail
Processus d'audit systématique des fournisseurs de données, de matériel et de services cloud pour évaluer les risques sociaux et environnementaux. Elle couvre les conditions de travail des annotateurs, l'impact environnemental des GPU et des data centers, et la conformité aux normes d'éthique et de droits humains.
Transparence & traçabilité supply chain IA
Visibilité documentée des chaînes d'approvisionnement IA, incluant l'identification des fournisseurs de données, les conditions de travail dans les centres d'annotation et les impacts environnementaux du matériel informatique. Elle permet de détecter et de remédier aux violations des droits humains et environnementaux.