PODCASTZAP : Anti-brouillard - L'IA est-elle sexiste ?
PODCASTZAP
une sélection des meilleurs épisodes de podcasts

Derrière les algorithmes, on trouve des hommes à l’origine de leur programmation. Peut-être un peu trop du reste. Il existe de nombreux biais humains dans la conception des systèmes d’IA. Flora Vincent nous fait découvrir la notion de contagion sexiste des algorithmes. En résumé, le code comme l’écriture contient une part de subjectivité consciente ou inconsciente de la part de son concepteur. Écoutez cet épisode pour en mesurer les conséquences.

Lien vers l’épisode

Pourquoi écouter cet épisode de Anti-brouillard

La faible représentativité des femmes dans le secteur de l’IA constitue le premier facteur de biais discriminant de cette discipline. Contrairement à ce que l’on pourrait croire les femmes étaient beaucoup plus présentes dans le secteur avant l’apparition des PC en 1985. Dès lors que l’informatique est devenue une industrie lucrative, la place des femmes n’a fait que chuter pour atteindre aujourd’hui 12%. Flora Vincent a décortiqué les différentes étapes de conception des systèmes d’IA pour analyser de manière scientifique les biais conscients et inconscients contenus dans les algorithmes. Bases de données, critères d’objectivité ou l’origine du développeur constituent autant de facteurs potentiellement discriminants impactant la pertinence de leur résultat.

Quand on sait que les algorithmes gèrent aujourd’hui l’orientation de nos enfants à la sortie du lycée, il y a de quoi se poser des questions. La transparence est parfois compliquée à gérer dans des organisations reposant à 100% sur l’humain. Qu’en sera-t-il avec les algorithmes ? On peut craindre le pire…

Aujourd’hui l’IA n’est pas simplement un problème technique mais bien un enjeu politique. Cet épisode est passionnant pour comprendre les difficultés sous-jacentes de cette industrie sur nos vies.

Bonne écoute

Verbatim

La manière dont les algorithmes sont conçus est vecteur d’inégalités.

La moitié des bacs scientifiques sont obtenus par des filles qui se tournent vers d’autres filières par la suite. Le domaine du digital n’occupe aujourd’hui que 12% des femmes. Cela a une influence sur la conception des systèmes. Elles sont deux fois plus nombreuses que les hommes à quitter ce secteur.

La première étape de conception d’un système d’IA est de déterminer un objectif global. La responsabilité de savoir quelle solution on va choisir pour développer un algorithme est entre les mains du développeur.

Écrire du code, c’est comme écrire un texte. Chacun a sa patte et on peut reconnaître l’auteur d’un script à partir du contenu qui intègre une part de subjectivité.

Un algorithme peut devenir discriminant s’il fonctionne sur une base de données non représentative. Si des hommes blancs sont surreprésentés dans une base de données utilisée pour de la reconnaissance faciale, les performances dans la reconnaissance d’individus de race noire seront impactées.

Aujourd’hui on a des normes pour tout mais il n’en existe aucune pour les algorithmes.

Les IA restent aujourd’hui des outils d’aide à la décision. Il faut que cela reste comme cela tant qu’on n’’est pas capable d’évaluer les méthodes utilisées pour les développer.

On se rend compte qu’on a beaucoup moins de données sur les femmes que sur les hommes. Ce gender data gap a des répercussions sur les indicateurs statistiques des grandes institutions comme l’ONU et dans le secteur de l’IA où la donnée est l’or du 21ième siècle.

Il est plus facile de changer des lignes de code que de changer des mentalités.

Le Podcast Anti-Brouillard

Anti-brouillard a pour ambition de décrypter les grandes tendances technologiques. Chaque mois un invité expert nous fait partager ses connaissances sur des sujets comme l’intelligence artificielle, la data science, la blockchain, l’internet des objets, bref tous ces thèmes qu’on nous prédit comme ceux qui forgeront le monde de demain. Grâce à l’animateur Fabien Roques, vous en saurez autant qu’un geek sans avoir à lire des articles souvent abscons.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Category

Uncategorized