Depuis l’adoption de l’AI Act par l’Union européenne en août 2024, les équipes formation doivent connaître les risques d’usage et les nouvelles responsabilités qui leur incombent. Tour d’horizon de ce qu’il faut obligatoirement faire pour être en conformité.
Identifier les niveaux de risques
L’ AI Act, premier cadre légal contraignant au monde pour encadrer les usages de l’IA, distingue quatre catégories de risque : le risque inacceptable (reconnaissance faciale, notation sociale…), le risque élevé (systèmes autorisés sous conditions strictes), risque limité (outils comme ChatGPT) et risque minimal (correcteurs automatiques). Le monde de la formation est directement concerné par la deuxième catégorie de risque : « Les systèmes utilisés pour les évaluations automatisées des performances des apprenants, les chatbots pédagogiques, l’orientation dans les parcours de formation, la gestion adaptative des contenus pédagogiques entrent dans cette catégorie de risque élevé », a expliqué Elodie de Roose, chargée de communication de Topformation, dans le cadre d’un webinaire.
- Documenter l’outil utilisé
- Assurer un contrôle humain
- Informer les utilisateurs
- Sécuriser les données utilisées
- Ritualiser des pratiques de conformité
