Un biais algorithmique désigne une distorsion systématique dans les résultats produits par un système automatisé, souvent héritée des données utilisées pour l’entraîner.
D’où viennent ces biais ?
Si les données d’entraînement reflètent des inégalités ou des déséquilibres historiques, le système reproduira ces mêmes déséquilibres dans ses résultats, sans qu’il y ait nécessairement d’intention discriminatoire de la part des concepteurs.
Des conséquences concrètes sur des décisions sensibles
Ces biais peuvent influencer des domaines aussi variés que le recrutement, l’octroi de crédit ou la reconnaissance faciale, avec des impacts réels sur des personnes, ce qui justifie une vigilance accrue lors du déploiement de ces systèmes.
Des audits réguliers et une diversité des équipes de conception figurent parmi les pistes les plus souvent évoquées pour limiter ces biais.
