Mujeres Avenir plaide pour une IA sans préjugés, au service de l'égalité hommes-femme

L'intelligence artificielle (IA) est un sujet de plus en plus important, compte tenu des progrès réalisés dans ce domaine et de son intégration progressive dans la vie quotidienne des personnes et des entreprises. Cependant, il s'agit d'un domaine qui présente de nombreux défis éthiques, depuis la sécurité et la durabilité de ces ressources jusqu'à la protection des informations personnelles qu'elles utilisent. La question de la perspective de genre n'est pas en reste.

Sous-représentation des femmes dans les STEM

Rebeca Ávila, présidente exécutive de l'association d'amitié franco-espagnole Mujeres Avenir, a ouvert la réunion en rappelant la forte sous-représentation des femmes dans le milieu des STEM, dont la vision et les intérêts passent inaperçus dans le développement des nouvelles technologies et a rappelé l'importance de "la formation des logiciels d'intelligence artificielle, afin que les préjugés sexistes soient pris en compte et ne soient pas reproduits dans les réponses de l'IA".

Alicia Richart, CEO d'Afiniti, a rappelé que l'on a commencé à parler d'Intelligence Artificielle dès 1957, "alors qu'il faudrait plutôt parler d'une capacité logicielle avancée, qui s'est popularisée grâce à l'irruption du smartphone, et aux millions de données que nous générons chaque jour et où se situe vraiment l'avancée de l'IA". Pour cette experte, toutes les entreprises doivent s'aligner sur le développement de systèmes d'IA éthiques, "qui reflètent le code de conduite des employés, et qui sont périodiquement examinés par le biais d'enquêtes internes qui nous permettent d'identifier et d'atténuer les risques pour les personnes".

Technologies et enfants

Alicia a rappelé qu'il existe de nombreux grands gourous de la technologie qui interdisent à leurs enfants d'utiliser la technologie à certaines étapes de leur vie, et a préconisé un retour à un système hybride "où tout n'est pas technologie 24 heures sur 24, cherchons avec ChatGPT, mais examinons et enrichissons les données d'une manière personnelle et autocritique".

María Arribas García, CMO et directrice du développement commercial de QALEON (Tech, IA, BI) et fondatrice de getHERtalent (Innovation sociale), a rappelé que nous avons besoin de beaucoup de sensibilisation et d'éducation, "nous parlons beaucoup de l'IA, mais en fonction de la façon dont nous alimentons ces systèmes et des préjugés introduits lors de leur formation, nous aurons une société inclusive ou non".

Pour María Arribas, il existe encore de nombreux obstacles pour les femmes dans le domaine de l'IA, comme dans le reste du marché du travail, "tout d'abord en raison du manque d'étudiantes dans les carrières STEM, celles basées sur les sciences, la technologie, l'ingénierie et les mathématiques, où le pourcentage de femmes diminue d'année en année". Il est nécessaire de mettre en place une éducation spécifique afin d'attirer les filles vers les sciences et les mathématiques, de mettre en œuvre des programmes de mentorat et de bourses qui servent à montrer l'applicabilité de ces carrières et leurs opportunités professionnelles.

L'importance des algorithmes

Cecilia Celeste Danesi, chercheuse à l'Institut d'études européennes et des droits de l'homme (UPSA), auteure du livre "L'empire des algorithmes" et membre de la plateforme "Women4EthicalAI" (UNESCO), a rappelé que "l'essor de l'intelligence artificielle affecte profondément nos droits humains. Les réseaux sociaux et les plateformes numériques, des moteurs de recherche aux services de messagerie en passant par des applications comme Glovo, Uber ou Airbnb, qui ont transformé notre économie, sont régis par des algorithmes. Parce que l'IA fait partie intégrante de nos vies et apprend de nos comportements et des informations que nous lui donnons, elle absorbe à la fois des aspects positifs et négatifs. Souvent, ces algorithmes influencent directement les questions de genre, de diversité, de droits de l'homme et de discrimination".

Pour Cecilia, l'avenir réside sans aucun doute dans la réglementation de l'IA, avec une harmonisation mondiale, ce qui est "pratique pour les entreprises et la société, en encourageant l'innovation et en protégeant les droits de l'homme, en divisant les systèmes en fonction des risques qu'ils provoquent". Il y a beaucoup d'obscurité, beaucoup d'incertitude et beaucoup de travail à accomplir pour progresser vers une application éthique de l'intelligence artificielle à l'échelle mondiale.

IA et pensée critique

Ruth Blanch, PDG d'Alkemy, a rappelé que les données utilisées pour former les algorithmes comportent plus de profils masculins que féminins et que, de ce fait, "la machine introduit des biais de genre dans ses réponses, simplement en raison du volume d'informations dont elle dispose". Ruth reconnaît que l'intelligence artificielle nous permet d'effectuer certaines tâches de manière très efficace, libérant les humains d'actions répétitives et leur permettant de développer leur créativité dans des activités où ils peuvent apporter plus de valeur, mais pour cela il est essentiel que les nouvelles générations développent une pensée critique, qu'à chaque réponse d'un système basé sur l'IA, elles se demandent si la réponse est correcte du point de vue technique et éthique.

La table ronde était animée par Patricia Manca, associée chez PwC Tax&Legal et responsable du French Desk, qui a souligné l'importance de "collecter des données avec une perspective de genre afin que les informations fournies aux IA ne soient pas biaisées dès le départ, et ne favorisent pas l'inégalité entre les hommes et les femmes. Nous devons faire en sorte que la technologie soit inclusive, que personne ne soit laissé de côté, surtout dans un pays comme l'Espagne, qui est clairement en train de vieillir".

María Luisa de Contes, présidente fondatrice de Mujeres Avenir, a clôturé l'événement en rappelant que "la Commission de la condition de la femme (CSW67) reconnaît l'importance cruciale de la technologie et de l'innovation pour accélérer l'égalité des sexes, et a établi un plan qui exhorte les gouvernements, le secteur privé et la société civile à promouvoir la participation égale des femmes et des filles dans la conception, la transformation et l'intégration des technologies numériques et de l'innovation, avec une perspective de genre".