Du RGPD à l'IA Act, l'outillage réglementaire à destination des acteurs de la formation qui s'emparent des intelligences artificielles génératives ne cesse de croître.
Les principaux textes en vigueur ou à venir proviennent de trois sources principales :
1/ le respect du droit de la propriété intellectuelle, qui pose le principe que les données issues de sources diverses traitées par les IA sont protégées par le droit d'auteur - données en entrée et en sortie
2/ le règlement général sur la protection des données (RGPD) dans le cas où un dispositif de formation assisté par l'IA récupère des données personnelles de l'apprenant à des fins de personnalisation
3/ IA Act ou loi sur l'IA adoptée par les eurodéputés le 13 mars 2024 et qui reste à être approuvée par le Conseil de l'Europe. Dans ce projet final de la loi européenne sur l'IA (IA Act), les activités d'éducation et de formation sont considérées par la réglementation "à haut risque" en raison du traitement de données personnelles :
- déterminer l'accès, l'admission ou l'affectation aux établissements d'enseignement et de formation professionnelle à tous les niveaux ;
- évaluer les résultats de l'apprentissage, y compris ceux utilisés pour orienter le processus d'apprentissage de l'étudiant ;
- évaluer le niveau d'éducation approprié pour un individu ;
- contrôler et détecter les comportements interdits des étudiants pendant les tests.
Se mettre en conformité par rapport à l"AI Act" quand on évolue dans le monde de la formation
Tour d’horizon de ce qu’il faut obligatoirement faire pour être en conformité pa rapport aux risques d’usage et aux nouvelles responsabilités qui incombent les organismes de formation.
Identification et classification des risques
- Identifier les systèmes d'IA utilisés selon les quatre catégories de risque (inacceptable, élevé, limité, minimal)
- Reconnaître que les systèmes d'évaluation automatisée, chatbots pédagogiques, orientation dans les parcours et gestion adaptative des contenus relèvent du risque élevé
Documentation des outils d'IA
- Établir un inventaire précis de tous les outils d'IA utilisés
- Expliquer clairement les fonctionnalités de chaque outil et les données mobilisées
- Documenter les processus de prise de décision de l'IA
- Détailler les algorithmes utilisés, critères de notation et marges d'erreur, même pour les outils développés par des tiers
- Prévoir des modalités de contrôle manuel
Supervision humaine
- Garantir qu'un humain peut comprendre, vérifier, corriger ou contester toute décision prise par l'IA
- Désigner un référent IA responsable du contrôle des décisions (formateur senior ou expert pédagogique)
- Permettre aux apprenants de demander une correction humaine en cas de désaccord avec une évaluation automatisée
Information des utilisateurs
- Informer systématiquement les apprenants qu'ils interagissent avec un système d'IA
- Afficher des mentions visibles et explicites dès le début des modules concernés
Protection et sécurité des données
- Garantir la qualité, la sécurité et l'intégrité des données utilisées
- Éviter les biais dans les systèmes d'IA
- Anonymiser les données personnelles
- Respecter le RGPD
- Obtenir le consentement des apprenants pour l'utilisation de leurs données
- Assurer un stockage sécurisé et une mise à jour régulière des données
Pratiques de conformité
- Créer une fiche de conformité IA pour chaque outil utilisé
- Organiser des revues trimestrielles des outils IA par un comité de pilotage pédagogique
- Documenter les incidents observés et les actions correctives mises en œuvre
Formation des équipes
- Former les équipes à la maîtrise des outils d'IA utilisés
- Sensibiliser à la législation applicable
- Former à l'évaluation des outils, la documentation des incidents et le signalement des erreurs
- Assurer des mises à jour continues des systèmes
