Ces deux dernières années, les voix générées par intelligence artificielle ont pu connaître une évolution impressionnante, des déclarations d’OpenAI qui affirme pouvoir cloner n’importe quelle voix, en passant par Meta qui a récemment annoncé le doublage vocal sur Facebook et Instagram.
En effet, les auditeurs ne parviendraient plus à distinguer les voix humaines des voix synthétiques. Une découverte qui ouvre de vastes débats dans l’éthique et la sécurité…
Des risques conséquents pour la sécurité et la désinformation
Cette nouvelle réalité technologique inquiète les chercheurs. Alors que Sora, la nouvelle application d’OpenAI, est déjà envahie par des deepfakes, des escroqueries basées sur le clonage de voix pourraient bientôt se multiplier.
Une technologie aussi prometteuse que redoutable
Si les risques sont considérables, la technologie ouvre également des perspectives positives. Dans leur étude, les chercheurs évoquent des applications dans l’accessibilité, l’éducation ou encore la création de voix personnalisées pour les personnes atteintes de troubles de la parole.
Toutefois, l’étude rappelle l’urgence d’un encadrement éthique et légal adapté à ces nouvelles capacités, car la frontière entre la voix humaine et artificielle semble avoir disparu…
