L’Isep, première école d’ingénieurs à signer le Pacte Femmes & IA du Cercle InterElles, s’engage à former ses futurs diplômés pour une Intelligence artificielle responsable et non-sexiste.
Aujourd’hui, l’Intelligence Artificielle est synonyme de productivité pour la plupart des secteurs d’activité. Le monde économique est en train d’intégrer cet outil mais son utilisation pose des questions :
- Un sondage sorti en juillet dernier (Odoxa - Mascaret) nous apprend que 7 Français sur 10 pensent que l’IA (générative) va révolutionner leur quotidien, mais que 64% des Français / 52% des professionnels de la tech n’ont pas confiance et ne croient pas en l’éthique des contenus créés par les IA ;
- Les gains de productivité attendus ont des conséquences sur les emplois, qui ne concernent pas nos élèves, mais dont ils doivent avoir conscience ;
- Les IA sont susceptibles de reproduire et parfois même d’amplifier des biais et des discriminations qui viennent généralement des données utilisées pour les entrainer, mais peuvent aussi résulter d’un manque de diversité parmi les concepteurs et utilisateurs de ces systèmes. Rappelons-nous de « Chatbot Tay », stoppé par son fabricant après sa dérive raciste et fachiste.
Le Pacte Femmes & IA du Cercle InterElles est une démarche proposée à toute organisation prête à adopter et promouvoir une intelligence artificielle responsable et non sexiste. Il s’articule autour de sept principes fondamentaux liés aux questions d’organisation, de ressources humaines et techniques. La toute première étape pour s’engager dans cette démarche consiste à signer la charte.
Depuis sa création, 12 entreprises ont adhéré aux fondements du Pacte qu’elles soient de grande envergure comme Engie, GE Healthcare, IBM, Intel, Lenovo, NGE, Orano, Qualcomm, SAP et Schlumberger ou des start-ups comme Cogneed AI ou Heex AI.
Conscient de ces enjeux et d’une manière plus large parce que l’Isep a la conviction que le Numérique est un formidable levier de développement, qui comporte des risques et des incertitudes, l’Isep réunit et forme des femmes et des hommes, qui créent et mettent en œuvre le Numérique Responsable.
L’Isep met au cœur de sa pédagogie, fondée sur des projets porteurs de sens, nourris d’Ethique et d’Humanités, selon un chemin qui permet à chacun et chacune de se développer en 3 dimensions : la combinaison des savoirs, la capacité à agir et une orientation au service de l’humain. Sur cette dernière dimension, l’école accompagne ses apprenants pour qu’ils construisent une pensée critique à mobiliser tout au long de leur carrière, pour avoir la capacité de s’insérer avec agilité au sein d’équipes multidisciplinaires, en sachant accueillir la diversité des compétences, talents et cultures. Face aux défis posés par les technologies dans ses aspects environnementaux, économiques, sociaux, et éthiques, son objectif est de de former des professionnelles et des professionnels avec la capacité de changer la donne technologique tout en exerçant des arbitrages face à la complexité, et en étant en capacité de repérer les biais potentiels de l’IA, pour agir pour le bien commun … En vue de positionner l’humain au centre du développement numérique.
« Dans ce contexte, être la première école à signer ‘Le Pacte Femmes & IA : pour une intelligence artificielle responsable et non-sexiste’ du Cercle InterElles est pour nous une évidence et une occasion d’affirmer notre engagement à travailler et à former nos élèves, en ayant conscience des risques associés aux biais potentiels sexistes des IA, mais aussi de tous les autres biais et risques de discriminations, quels qu’ils soient », assure Aline Aubertin la Directrice Générale de l’Isep.
L’Isep s’engage à
- S’inscrire dans une démarche éthique globale, portée par la direction générale et déclinée partout dans l’école ;
- Intégrer l’impact de l’IA sur la mixité et la diversité dans leurs enseignements et leurs recherches ; en particulier dans le choix des données et le regard critique porté sur celles-ci, dans la conception des algorithmes, et dans les outils de contrôle ;
- S’engager dans la diversité de leurs équipes de recherche et d’enseignement : aujourd’hui elles sont à parité femmes-hommes et multiculturelles, avec plus d’une quinzaine de nationalités représentées ;
- Inclure la sensibilisation aux biais de genre mais aussi aux autres biais et discriminations », dans leurs enseignements.
- Signer une chaire avec le Cercle InterElles pour organiser des interventions d’expertes au sein de l’école et la participation de nos Enseignants-Chercheurs à des colloques, conférences sur ce sujet.
Par la signature de la charte ce jour dans les locaux de l’Isep, l’école rejoint le Cercle d’Action Femmes & IA qui se réunit pour échanger autour des aspects concrets de la mise en place d’une démarche vertueuse de l’utilisation de l’IA, et aura également accès à la boîte à outils : unique en son genre, cette dernière regroupe toutes les briques techniques (licences et librairies) pour gérer les biais de genre.
« Le Cercle InterElles se réjouit de la signature du Pacte Femmes & IA par l’Isep aujourd’hui. C’est la première fois qu’une école d’ingénieur.e.s prend part à cette initiative, cela démontre l’engagement de l’école pour former les nouvelles générations sur ce sujet de société », se félicite Patricia Lecoq, Présidente du Cercle InterElles.
En association avec Impact AI, le Cercle InterElles a créé un module « pilote » de sensibilisation aux biais de genre dans l’IA de 3h à destination des étudiants et des utilisateurs du numérique. Avant son lancement officiel, le module a été déployé par trois formatrices bénévoles du Cercle InterElles à la rentrée de Septembre auprès de 90 étudiants de l’Isep afin de les aider à comprendre et déceler un biais de genre, limiter son impact et mettre en place une méthode et des outils pertinents. Cette intervention s’est inscrite dans le module « Enjeux et Métiers de l’ingénieur », proposé à l’ensemble des élèves de 1ère année du cycle ingénieur, qui leurs permet de rencontrer des professionnels et ainsi d’être plongés au cœur de la réalité de leur futur métier et de ses enjeux, et ainsi de mieux comprendre les compétences qu’elles et ils auront à acquérir.