Clonage vocal, deepfakes audio et hypertrucages : quand l’IA sonne faux |
La newsletter de la radio de demain #341… Abonnez-vous
Pas une journée sans nouveauté dopée à l’IA… Et chaque nouvelle avancée soulève toujours autant d’enthousiasme que d’inquiétude. Récemment, OpenAI a de nouveau fait sensation en dévoilant le moteur vocal Voice Engine, permettant à une machine de reproduire la voix de n’importe qui après seulement quelques secondes d’entraînement.
Mais derrière cette avancée spectaculaire se cachent des questions complexes sur les usages, ses implications et les risques qu’elle présente.
Voice Engine : la percée technologique qui interroge
Voice Engine, le dernier né d’OpenAI, a suscité un vif intérêt depuis sa révélation. Cette technologie de clonage vocal permet à une machine de reproduire la voix de n’importe qui avec une précision qui se revendique remarquable, après seulement 15 secondes d’entraînement. L’idée d’avoir un assistant vocal tel que Siri, Alexa ou Google Assistant lisant du contenu avec votre voix, ou celle de n’importe qui d’autre, ouvre des horizons fascinants, à la fois créatifs, pratiques et marketing.
L’utilisation de cette nouvelle technologie pourrait également révolutionner l’accessibilité des contenus en accélérant le démocratisation du text to speech (vocalisation de contenus écrits), rendant ainsi les informations disponibles à un public plus large et répondant aux besoins des usagers mal ou non-voyants. Cela pourrait permettre aux créateurs de partager leurs œuvres avec leur propre voix, sans barrières linguistiques.
Autre bénéfice potentiel de l’IA : si n’importe quelle voix peut être générée pour lire n’importe quel texte… On peut espérer qu’une équité de genre de la parole des femmes et des hommes soit atteinte dans le futur grâce à l’IA, et répondre ainsi à un enjeu important de la représentation des genres.
Deepfakes : l’attaque des clones
Cependant, malgré les promesses des IA génératives telles que Voice Engine, des préoccupations légitimes émergent quant à l’utilisation de l’IA pour la création de deepfakes. Imaginons un monde où des enregistrements truqués de personnalités publiques peuvent être créés en quelques secondes, semant la confusion et la méfiance. Qu’il s’agisse d’hypertrucages voulus divertissants, comme Johnny de retour pour chanter Goldorak, Capitaine Flam, Bioman… ou de démarches nocives et propageant de la désinformation ou promouvant des escroqueries, comme le souligne l’exemple du Youtubeur français Cyprien, victime de deepfakes.
Ces deepfakes, de plus en plus réalistes, défient les méthodes de détection traditionnelles. Les algorithmes génératifs, alimentés par l’IA, évoluent rapidement, rendant difficile la distinction entre réalité et fiction. Les enjeux géopolitiques exacerbent cette problématique, avec des craintes quant à l’utilisation de ces outils pour influencer les élections ou propager des mensonges.
Réguler et éduquer pour lutter contre les deepfakes
Face à ces défis, la régulation et l’éducation jouent un rôle crucial. Les gouvernements et les entreprises doivent travailler ensemble pour élaborer des cadres légaux adaptés concernant l’utilisation de l’IA et des mécanismes de détection efficaces. Cependant, l’efficacité de ces réglementations reste à déterminer, et les préoccupations du public pourraient persister tant que des garanties solides ne seront pas mises en place.
La sensibilisation du public sur les dangers des deepfakes et l’importance de la vérification des sources est essentielle pour contrer la propagation de la désinformation. Une approche équilibrée, combinant régulation, éducation et développement technologique responsable, est nécessaire pour naviguer avec succès dans le paysage complexe de l’IA.
Et vous, savez-vous reconnaître pour sûr un humain d’une IA ?
Cette semaine
L’apport de l’IA, dans la production de live de sport, avec les solutions d’EVS
En savoir plus
TikTok lance son clone d’Instagram, TikTok Notes
En savoir plus
The Boring Phone, un exercice de branding nostalgique
En savoir plus
Amazon Music pourrait bientôt vous permettre de créer des playlists à l’aide de Maestro, son nouveau créateur de listes de lecture IA
En savoir plus
Bientôt, l’IA de Meta vous fera la conversation sur Messenger, WhatsApp et Instagram
En savoir plus
En bref @ Radio France
Comment convaincre | France Culture : bien parler, ça s’apprend ! Tout comme convaincre un auditoire. C’est ce que vous entraîne à faire l’avocat Bertrand Périer, fort de son expérience de la plaidoirie.
En savoir plus
Complorama |franceinfo : la vidéo d’un couple qui refuse de se soumettre à un test d’alcoolémie de la gendarmerie est devenue virale sur les réseaux sociaux la semaine dernière. Ils se présentent comme étant des « citoyens souverains ». Du refus de l’autorité jusqu’au complotisme, quelles sont leurs croyances ?
En savoir plus
La grande histoire de l’ONF | France Musique : retracez en 20 épisodes les neuf décennies glorieuses de l’Orchestre national de France, des années de fondation aux chefs prestigieux, en passant par ses musiciens et même quelques raretés de ses archives !
En savoir plus
Les Odyssées des musées d’Orsay et de l’Orangerie | France Inter : remontez le temps à l’époque des calèches, des locomotives à vapeur et du pari fou de l’Impressionnisme.
En savoir plus