Comme c’est le cas pour l’éducation, la réglementation européenne relative à l’intelligence artificielle, qui a été approuvée par l’UE le 21 mai 2024, encadre les usages de cette technologie dans la sphère de la formation professionnelle. Quels changements pour ces professionnels ? Réponses de Guillaume Letzgus, DG de l’organisme de formation Lefebvre Dalloz Compétences.
En matière de formation, quels outils sont considérés comme « risqués » par l’AI Act ?
Comme toutes les organisations qui fournissent ou utilisent des modèles d’IA au sein de l’UE, les organismes de formation sont concernés par cette réglementation. La formation professionnelle se situe dans le deuxième niveau de risques, à savoir le niveau « à haut risque ». Globalement, il existe 4 familles de systèmes d’IA considérés comme présentant des risques élevés. Il s’agit des systèmes d’IA permettant de déterminer l’accès ou l’admission de personnes physiques aux établissements de formation professionnelle ; des systèmes d’IA permettant d’évaluer le niveau de compétences des collaborateurs ; des systèmes d’IA permettant l’évaluation et le suivi des résultats des apprenants ; et les systèmes d’IA destinés à surveiller et détecter les potentielles triches et comportements interdits.
Quelles précautions les organismes doivent-ils prendre ?
Chez Lefebvre Dalloz, nous sommes un éditeur de contenus et nous construisons des technologies d’IA. Nous avons par exemple développé GenIA-L, une IA générative qui permet de poser des questions juridiques en langage naturel et d’obtenir des réponses basées sur l’intégralité des données de notre fonds. Il existe donc pour nous, en tant qu’éditeur, un risque de voir exploiter et réutiliser nos données. Face à ce type de risque, il faut construire des environnements technologiques sécurisés, sans s’interdire de recourir aux LLM (NDLR : grands modèles de langage) extra-européens les plus performants du marché, comme celui d’OpenAI. L’enjeu est de protéger cet environnement et d’être en complète maîtrise de la donnée. Pour y parvenir, nous avons construit des solutions internes qui tirent profit de l’intelligence de ces LLM mais sans y exporter la totalité de nos données.
