Les apports de l’IA à la formation font assez largement consensus : individualisation, création de contenu facilitée, évaluation, interactivité… Beaucoup estiment qu’avec le temps, les inconvénients des outils IA sont de plus en plus maîtrisés, et les usages s’affinent et gagnent en puissance. Pourtant, une étude récente nous apprend que le taux de fausses réponses des outils d’IA générative aurait doublé en un an… Le meilleur des mondes IA n’est donc pas encore garanti, et nous évoquerons ici la face sombre de l’intelligence artificielle appliquée à la formation des collaborateurs. Nous les avons réunis en 3 grands risques : le risque contenu, le risque social, et le risque compétences.
L’intelligence artificielle, en particulier l’IA générative, révolutionne le monde de la formation, et il est possible que nous n’ayons encore rien vu.
- Elle intervient dans la création de contenus, en répondant aux questions du concepteur, en accompagnant sa recherche, en proposant des quiz et des exercices, en créant des visuels, en mettant en forme des présentations…
- Elle peut optimiser la personnalisation et l’efficacité de la prestation, en individualisant le contenu, mais aussi en permettant le développement rapide d’agents conversationnels dédiés capables de répondre aux questions de l’apprenant et d’adapter en temps réel le cursus, sans affect, jugement ni feedback négatif ;
- Elle accélère et affine l’évaluation des compétences et la notation des examens ;
- Elle peut s’incarner dans des avatars qui viennent assister, voire remplacer le formateur dans certains contextes, et emmener l’apprenant dans des mises en situation …
Le risque contenu
C’est sans doute le plus facile à détecter, mais pas forcément le plus aisé à maîtriser.
- Les hallucinations
- Les biais algorithmiques
Le risque social
L’IA apparaît aussi comme la technologie la mieux à même de tenir les promesses du e-learning. Celles-ci sont déjà anciennes, et au moins au nombre de 2 : individualisation des parcours et formation en autonomie. Mais cette réussite contient en germe un nouveau risque : celui de se retrouver « enfermé » dans une formation digitale, à la merci d’une IA qui peut ne pas saisir complètement les besoins et les envies de l’apprenant, et coupé de toute interaction humaine. Ce risque d’isolement peut entraîner démotivation et désengagement – même si la qualité de l’interactivité avec l’IA vise précisément à lutter contre cet inconvénient des formations à distance.
Le risque compétences
Le risque le plus inquiétant reste la perte de compétences. Il est de deux ordres.
- Le risque d’évaluation faussée
- Le risque de déqualification
