Gouvernance et droits de la personne
Vers une réelle diversité et une égalité des sexes dans l’intelligence artificielle : pratiques prometteuses et recommandations fondées sur des données probantes
Objectifs
En outre, le projet travaillera sur l’intersectionnalité, en tenant compte de facteurs tels que la race, l’identité ethnique et le handicap.
Concevoir des approches systémiques en matière de genre et de diversité pour le cycle de vie de l’IA
Mené en partenariat avec Mila, ce projet vise à fournir à l’écosystème IA, en particulier aux États membres du PMIA, un cadre comprenant des outils concrets et des recommandations pour garantir la diversité et l’égalité des sexes tout au long du cycle de l’IA, sur la base des lignes directrices en vigueur, des meilleures pratiques locales du monde entier et des normes internationales en matière de droits de la personne et d’égalité des sexes.
L’IA est généralement conçue, développée, contrôlée et évaluée sans approche systématique en matière de genre et de diversité, ce qui peut freiner le développement et l’adoption d’une IA responsable et avoir des conséquences néfastes comme : a) un préjudice disproportionné envers les femmes et les groupes marginalisés; b) des occasions manquées pour que l’IA ait plus d’impact en raison du fait que ces groupes ne sont pas pris en considération; et c) l’absence d’inclusion dans les discussions sur l’éthique, la réglementation et les stratégies en matière d’IA. Il manque de conseils concrets fondés sur des données probantes qui respectent efficacement les droits de la personne et démontrent leur impact sur la base d’indicateurs approuvés à l’international. Ce projet vise à pallier cette lacune, en contribuant à une IA juste, responsable et inclusive tout au long de son cycle de vie, conformément aux principes des droits de la personne, aux Principes de l’OCDE sur l’intelligence artificielle et à la Recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle.
Dans une perspective mondiale, ce projet produira des outils, des pratiques et des recommandations systémiques pour faire progresser l’égalité des sexes, la diversité et l’inclusion dans l’IA pour les différents acteurs de l’écosystème IA. Ces produits reposeront sur des données probantes et des critères clairement définis qui sont liés aux droits de la personne, y compris ceux qui visent à autonomiser les femmes, les filles et les groupes marginalisés, et ceux qui visent à systématiser les pratiques de diversité et d’égalité des sexes tout au long du cycle de l’IA.
Équipe
Stephanie King
Directrice des initiatives IA
Camille Séguin
Gestionnaire de projet
Niobe Haitas
Gestionnaire de projet
Paola Ricaurte
Experte PMIA et co-responsable du projet
Benjamin Prud'homme
Responsable externe
Comité aviseur
Inese Podgaiska
Emmanuel Ekulu
Celine Caira
Wanda Muñoz
Catherine Régis
Juliana Sakai
Toshiya Jitsuzumi
Ricardo Baeza-Yates
Prateek Sibal
Vanessa Dreier
Opportunités de collaboration avec le CEIMIA
Collaborer avec le CEIMIA, c’est contribuer à l’avancement de l’égalité des sexes et de la diversité dans l’IA..
Pour ce projet, nous souhaitons collaborer avec :
- Les intervenants et les organisations spécialisées dans l’égalité des sexes, comme ONU Femmes, la Banque interaméricaine de développement, etc.
- Les intervenants et les organisations œuvrant pour la justice en matière de données, les droits de la personne et la diversité dans l’IA, comme Algorithmic Justice League, le réseau FAIR, Women in AI Ethics, Amnesty International, etc.
- D’autres organisations représentant des groupes marginalisés
En outre, nous invitons les experts représentant des organismes de ce domaine à rejoindre l’équipe en tant que membres du groupe consultatif du projet.
