Speaker series (Inclusivity in AI panel 2)

Dr Renée Sieber et le I2Hub...

Modéré par Ruth Bankey

Mardi 12 novembre 2024 (13h00 - 14h30 HNE)

Que sont les boîtes noires systémiques des systèmes d'IA ? Considérations pour une inclusion et une participation significatives.

Dans cette session, nous nous concentrerons sur le rôle essentiel du public (et des publics) pour lever le voile sur les mécanismes opaques des systèmes d'IA, grâce à des structures de participation publique, de leur conception à leur mise hors service. Nous explorerons l'importance de toujours considérer les systèmes d'IA comme… sociotechnique et systèmes techniques socio-politiques. Comme lors de la session précédente, nous explorerons les différentes manières dont les individus envisagent de dépasser ces structures opaques afin de favoriser la diversité, l'inclusion, le sentiment d'appartenance et la justice. Cela peut impliquer d'étendre les pratiques de l'IAX à des contextes et des systèmes plus vastes, ou encore des approches et des tactiques entièrement différentes, plus participatives ou holistiques.

Ce travail s'appuie sur le premier panel consacré à l'inclusion et à l'IA, où nous nous sommes intéressés aux problèmes de “ boîte noire ” dans le contexte des systèmes d'IA financiers. Nous avons examiné comment le processus décisionnel au sein des systèmes d'IA bancaires reste opaque et comment nous pouvons à la fois lever le voile sur certaines de ces « boîtes noires » et transformer ces systèmes pour les rendre plus transparents et équitables.

À propos de l'intervenant :

Renée Sieber

Dr. Renée Sieber est professeure agrégée à l'Université McGill à Montréal. Elle possède plus de 20 ans d'expérience à l'intersection de la participation citoyenne et des technologies informatiques. Elle est surtout reconnue pour ses recherches et ses pratiques sur la participation du public à la cartographie informatisée et à la modélisation climatique. Elle est la chercheuse principale du projet suivant : L'IA pour tous et Impliquer le public de manière significative dans l'intelligence artificielle les deux sont Projets pluriannuels financés par le Conseil de recherches en sciences humaines du Canada. Dans ce cadre, elle travaille à l'élaboration d'un nouveau modèle de participation citoyenne aux processus décisionnels gouvernementaux automatisés par l'intelligence artificielle. Elle mène actuellement des recherches sur la participation du public à la géo-intelligence artificielle et conseille la conception de deux outils d'évaluation des risques liés à l'IA. Par ailleurs, elle effectue des recherches sur la classification supervisée et non supervisée et a réalisé des travaux de détection de caractéristiques par vision par ordinateur.

À propos du modérateur

Ruth Bankey

Ruth Bankey siège au conseil d'administration du Inclusive Innovation Hub (I2Hub), qui crée et soutient une communauté de transformation des pratiques et de la recherche en matière d'innovation inclusive. L'I2Hub vise à faciliter l'accès à l'information, à co-créer de nouvelles connaissances, à développer des réseaux et à collaborer pour repenser la notion d'inclusion dans et pour l'innovation. Au sein de l'I2Hub, elle travaille avec d'autres membres à l'élaboration d'un “ prototype d'innovation inclusive pour la transformation des systèmes ”, dans le cadre de la cohorte 2024 du programme u-lab 2x, U-school for transformation, Presencing Institute, MIT. Elle collabore au projet de subvention de développement de partenariat du CRSH intitulé “ Faciliter la transition des systèmes vers l'innovation inclusive ”, pour lequel l'I2Hub joue un rôle de premier plan et qui l'intéresse particulièrement à la question suivante : quelles sont les meilleures pratiques en matière d'inclusion dans le développement des technologies d'intelligence artificielle ? Son intérêt pour l'innovation inclusive s'étend également à d'autres domaines de son travail, notamment sa collaboration au projet “ Mobiliser efficacement le public autour de l'intelligence artificielle ”, une subvention Savoir du CRSH. Elle occupe le poste de présidente du conseil d’administration de l’Institut canadien de renforcement des capacités (ICRC) et de Solutions durables en matière de capacités, deux ONG environnementales dont la vision est de doter le secteur environnemental sans but lucratif des outils et des ressources essentiels pour surmonter les contraintes de capacité et favoriser la résilience communautaire. Elle a également été juge en chef pour la première équipe de jugement de l’Expo-sciences pancanadienne (une équipe d’environ 20 personnes) et membre du jury du concours Regeneron ISEF, où elle a sélectionné des projets d’IA (et autres) pour l’équipe canadienne. Enfin, elle travaille pour l’un des secteurs de programmes de la Division de l’intelligence d’affaires, de la recherche et de l’analyse (BIRAD) de l’Agence du revenu du Canada.