Faire du Grand Ouest le territoire numérique de demain
Article
Alors qu’elle peut aider les médecins dans le diagnostic des cancers en analysant des images, l’IA peut aussi favoriser l’embauche d’hommes au détriment des femmes. Cette technologie porteuse de progrès, apporte aussi son lot de risques. Seule une approche éthique permettra d’en tirer tous les bénéfices en évitant les pièges, d’autant que la législation européenne se renforce.
C’est en partant de ce constat, que le groupe Ethique et IA de la communauté ADN Data & IA s’est lancé en 2021 dans l’aventure « ALTAI » que cet article va vous conter.
Le questionnaire ALTAI (Assessment List for Trustworthy Artificial Intelligence) est une grille d’évaluation développée par un groupe d’experts de la Commission Européenne pour s’auto-évaluer sur l’éthique des algorithmes de machine learning afin de s’assurer que l’IA que l’on développe est digne de confiance. Elle permet d’avoir une feuille de route, un code de conduite.
Ce questionnaire est construit autour de 7 thématiques pointues par des experts et des chercheurs. Il peut s’avérer ésotérique pour des non-initiés, et il est donc difficile de se l’approprier, d’autant qu’il est rédigé en anglais.
Début 2021, un groupe d’adhérents de la communauté ADN Data & IA qui s’intéressait aux questions éthiques s’est donné pour objectif de confronter ce document d’experts à des cas d’usages concrets au sein des entreprises du réseau ADN Ouest. Pour les aider à s’acculturer aux problématiques éthiques, ils ont essayé d’élaborer un mode opératoire plus simple et accessible aux entreprises qui voudraient se lancer dans des projets d’IA.
Depuis le lancement du projet, le contexte a énormément évolué. Le sujet s’est retrouvé propulsé au centre des débats avec le lancement de ChatGPT, et le contexte réglementaire a dû s’adapter : les instances internationales mettent en place des règles, le G20 s’est réuni pour poser des garde-fous, les patrons des GAFAM ont mis en garde contre les dérives de l’IA et un accord a été trouvé par la Commission Européenne sur l’IA Act début décembre.
Ce dernier devrait entrer en application dès 2025. L'Europe est ainsi la première à se doter d'un tel règlement et fixe un très haut niveau d’exigence pour les IA en matière de transparence et d'équité notamment.
Le groupe “Ethique et IA” de la communauté ADN Data & IA a traduit le questionnaire ALTAI en français, puis travaillé sur différents cas d’usages pour illustrer sa mise en application :
Ces mises en situation ont servi de base à l’élaboration d’un quiz interactif qui permet aujourd’hui de sensibiliser à l’éthique et aux bonnes pratiques de l’utilisation et/ou au développement des algorithmes pour les entreprises qui voudraient se lancer dans des projets d’IA. Ce quiz prend la forme d’un storyboard avec les questions, réponses et explications.
Tout ce travail a été mis en forme dans un questionnaire sur Kahoot, joué à plusieurs reprises auprès des adhérents ADN Ouest. Il est également mis à disposition du dispositif d’accompagnement EDIH DIVA qui accompagne les professionnels, de la région des Pays de la Loire, dans l’utilisation des données et des technologies et outils d’Intelligence Artificielle. L’IA de confiance est l’une des composantes de l’offre de services de DIVA.
En 2023 et 2024, le groupe continue à travailler à partir des premiers retours reçus pour améliorer son questionnaire et continuer à sensibiliser de plus en plus de professionnels du numérique aux enjeux éthiques de l’IA. Le prochain atelier de sensibilisation est d’ores et déjà programmé le 13 mars à Laval lors du West Data Festival.
Rejoignez la communauté ADN Data & IA pour poursuivre les échanges avec : Simon Boisserpe, Angélique Burot, Arnauld Castex, Christian Bonnin et Rémi Le Mauff. Ils ont également contribué à ce projet : Arthur Besançon, Lise George, Thomas Fournaise, Elisabeth Lehagre
