Face au déferlement médiatique de ces derniers jours sur les avancées de l’IA générative et les enjeux majeurs de sa régulation, il est urgent de mettre au centre de la régulation de l’IA, l’humain, pour maîtriser les enjeux éthiques.
Ethik-IA travaille en ce sens depuis 2017 dans le but de faire reconnaître l’exigence d’une Garantie Humaine de l’IA, en accompagnant la régulation positive de l’IA sans freiner ou entraver l’innovation et en s’appuyant sur la législation française et la réglementation européenne. Aujourd’hui, l’IA touche tous les secteurs : santé, éducation, sécurité, administration publique, emploi, gestion des travailleurs, immigration... Il est donc urgent de généraliser la réglementation de l’IA dans l’ensemble de ces domaines.
Le rôle essentiel de la supervision humaine dans le développement de l'IA
Reconnu par le Comité consultatif national d’éthique dès 2018, intégré de façon pionnière à l’article 17 de la loi de bioéthique française de 2021, le principe de supervision humaine constitue le socle du règlement européen sur l’IA – AI Act – en passe d’être adopté par l’Union européenne. Ce texte est, en l’état, prévu pour une entrée en vigueur progressive entre mi-2025 et mi-2027. La publication, le 30 octobre dernier, de l’Executive Order de Joe Biden sur l’IA établit un niveau de régulation en de nombreux points similaires au futur règlement européen.
Les débats sociétaux actuels montrent qu’il est urgent d’agir. Il devient impératif d’appliquer cette exigence de Garantie Humaine au plus vite. Ethik-IA se mobilise aux côtés d’acteurs majeurs dans le cadre de programmes très concrets de Garantie Humaine de l’IA.
Une ambition dans le domaine médical à généraliser
C’est le cas dans le domaine médical. Depuis trois ans, un dispositif de supervision humaine est mis en place dans le domaine bucco-dentaire sous l’égide de l’Union française pour la santé bucco-dentaire. En radiologie, des principes éthiques ont été forgés dans le cadre de DRIM France IA qui rassemble l’ensemble des radiologues. Ils sont déclinés sur le terrain notamment dans le cadre de protocoles de contrôle humain en téléradiologie avec les professionnels de Medin+. Une démarche de contrôle humain de l’IA a été engagée en biologie sous égide de la SFIL (société française d’informatique laboratoire). Le 14 novembre dernier, Unicancer a annoncé lors de sa Convention nationale l’engagement du déploiement d’un dispositif global de Garantie Humaine de l’IA pour l’oncologie en partenariat avec Ethik-IA. Il convient, dès à présent, de généraliser cette ambition.
L’innovation au service d’une IA de confiance
Le Gouvernement français s’y inscrit pleinement dans le cadre de ses programmes de soutien à l’IA de confiance mis en œuvre par la coordination interministérielle à l’IA et dans le cadre du Conseil stratégique de l’IA générative récemment créé et placé auprès de la Première ministre.
Nous devons aussi construire des dispositifs de création de confiance comme la labellisation en Garantie Humaine de l’IA présentée en février dernier avec le Digital Médical Hub de l’AP-HP et s’engager sur le terrain de la normalisation. Dans ce sens, une proto-norme AFNOR sur le contrôle humain de l’IA sera présentée au mois de décembre prochain après un travail préparatoire conduit avec les représentants des acteurs industriels – SNITEM, LEEM – et les patients représentés par France Assos Santé.
Le mouvement est en marche pour garantir une IA de confiance : un enjeu essentiel et immédiat pour préserver l’Humain en synergie avec la révolution technologique.