IA et discrimination

Les médias parlent abondamment de l’intelligence artificielle et de tous les progrès qu’elle peut nous apporter. Il y a toutefois une face sombre: les biais et les discriminations qui y sont d’ores et déjà liés.

Fichier audio

Par exemple, deux chercheuses, l’une de l’Université de Toronto et l’autre du MIT, ont testé trois technologies de reconnaissance faciale pour leur projet « Gender Shades ». Elles se sont aperçues que si vous êtes une femme à la peau sombre, vous aurez plus de difficultés à vous faire reconnaître.

De l’embauche aux décisions judiciaires, l’intelligence artificielle peut en effet être discriminatoire, tout dépendant de la couleur de votre peau, de votre genre et même de votre âge. Oui, il arrive aussi que la technologie fasse preuve d’âgisme.

Abonnez-vous à notre infolettre!

Pour ne rien rater de l'actualité scientifique et tout savoir sur nos efforts pour lutter contre les fausses nouvelles et la désinformation!

Isabelle Burgun en parle cette semaine avec:

Karine Gentelet, professeure à l'Université du Québec en Outaouais en sciences sociales; titulaire de la Chaire Abeona-ENS-Obvia en intelligence artificielle et justice sociale
Alexandra Parada, étudiante au doctorat en sciences juridiques à l’UQÀM.

On a longtemps pensé que les systèmes utilisant l’intelligence artificielle étaient plutôt objectifs. Ce n’est plus le cas, nous savons que de tels systèmes peuvent avoir les mêmes biais que ceux qui les ont imaginés. Quels sont les biais les plus courants? Quels sont les enjeux de discrimination les plus courants?

Au-delà du manque de femmes ou de personnes racisées parmi ceux qui programment, il y a la façon dont les données ont été collectées puis classées. Quels sont les problèmes de ce côté? Faudrait-il une formation éthique pour les informaticiens ? Une formation sur les enjeux sociaux?

« On ne peut pas séparer la technologie de l’Humain. La technologie est quelque chose créé par des humains, pas dans un vacuum social. » -Karine Gentelet

Quels sont les enjeux liés à l’âgisme? Est-ce que ces biais pourraient avoir un impact sur l’accès aux soins de certains groupes?

Comment encadrer tout cela, comment lutter contre ce type de discrimination? Comment limiter les risques?

+++++++++++++++++++++++++++++++++++

Je vote pour la science est diffusée le lundi à 13 h sur les cinq stations régionales de Radio VM. Elle est animée par Isabelle Burgun. Recherche pour cette émission: Fanny Rohrbacher. Vous pouvez également nous écouter, entre autres, sur CIBO (Senneterre), CFOU (Trois-Rivières), CIAX (Windsor) et CHOM (Toronto).

Vous trouverez sur cette page des liens vers les émissions des saisons précédentes. Vous pouvez également nous suivre sur Twitter et sur Facebook.

Photo: Diversity UK