Comprendre
Les biais algorithmiques, expliqués simplement
Un biais algorithmique, c'est lorsqu'un système d'IA produit des résultats injustes pour certaines personnes — souvent les femmes et les minorités. Ce n'est pas de la science-fiction : ça arrive déjà, dans des décisions qui changent des vies.
Comment ça arrive ?
Des données du passé
L'IA apprend sur des données historiques. Si elles reflètent des discriminations passées, l'IA les reproduit — et peut les amplifier.
Des objectifs mal pensés
Optimiser un seul critère (rapidité, rentabilité) peut désavantager certains groupes, sans que personne ne l'ait voulu.
Un manque de diversité
Conçus par des équipes peu diverses, ces outils oublient des profils entiers : accents, morphologies, parcours de vie.
L'opacité
Beaucoup de décisions automatisées sont impossibles à expliquer ou à contester. On les subit sans comprendre.
Le saviez-vous ?
Reconnaissance faciale
Des travaux du MIT (2018) ont montré que certains systèmes identifient bien moins les femmes à la peau foncée que les hommes à la peau claire.
Recrutement
Des outils de tri de candidatures ont été abandonnés après avoir systématiquement désavantagé les femmes.
Santé
Une étude publiée dans Science (2019) a montré qu'un algorithme de santé sous-estimait les besoins de patients de certaines origines.
Où les rencontre-t-on ?
Que faire ?
S'informer
Comprendre comment l'IA décide, c'est déjà reprendre du pouvoir. Participez à nos ateliers de vulgarisation.
Signaler
Vous avez vécu une décision injuste ? Témoignez sur AlgoSignal, de façon anonyme.
Demander des comptes
Le RGPD (article 22) encadre les décisions automatisées : vous avez droit à une explication et à une intervention humaine.