Deepfake
Le deepfake désigne les techniques de contre-façons de vidéo ou d’extraits sonores visant à déformer la réalité et s’appuyant sur l’intelligence artificielle et plus particulièrement le deep learning.
Deepfake est un mot valise (ou "amalgame lexical" en science de la phonétique) issu de la contraction des mots "deep learning" et de "fake" ("faux" en anglais), le deep learning étant une technique d'intelligence artificielle utilisée dans la reconnaissance d'image, l'analyse de vidéo, l'analyse de texte ou encore les prévisions statistiques.
Les usages les plus répandus du Deepfake consiste à remplacer le visage d'acteurs dans des films par le visage d'autres personnes, la pornographie involontaire, les reconstitutions historiques ou encore la propagande politique.
Les premières expérimentations de deepfake remontent à 1997, mais les applications grand public ont seulement commencé à se diffuser en 2015. Le term de deepfake lui-même n’est apparu qu’en 2017 sur le réseau social américain Reddit. Il s’agissait à l'origine du nom d’un utilisateur diffusant des vidéo pornographiques avec le visage de célébrités telles que Kate Middletown, Michelle Obama, Ivana Trump, Taylor Swift ou Gal Gadot.
On distingue habituellement les formes suivantes de Deepfake
Le faceswap
Le faceswap qui consiste à remplacer le visage d’une personne apparaissant dans une vidéo par celui d’une autre personne.
L’application Face2Face, publiée en 2016 est la première application grand public à permettre à son utilisateur de se filmer en parlant et de voir ses propos et mimiques de visages reproduit en temps réel sur le visage d’une autre personne dont il a fourni une vidéo.
Le « Synthesing program » de 2017 permettait de faire dire à Barack Obama ce que sont utilisateur souhaitait lui faire dire.
L’audio deepfake
L’audio deepfake qui consiste à remplacer la voix de la personne qui s’exprime par celle d’une autre personne est utilisée notamment pour réaliser des arnaques sociales (par exemple, par un pirate empruntant la voix du dirigeant d’une société pour demander à l’un de ses collaborateurs de réaliser un virement vers le compte du pirate).
Le XXX qui consiste à projeter sur la scène d’une salle de spectacle, un hologramme 3D d’un chanteur ou comédien non présent physiquement sur le lieu du spectacle.
La contre-façons d’image ou de vidéo remontent à quelques dizaines d’années, mais entre dans le cadre du deepfake deepfake peut s’appuyer soit sur l’édition manuelle de fichiers vidéo, image ou sonore, mais aussi sur l’intelligence artificielle (très présente dans les applications permettant au grand public de créer des deepfakes), soit une combinaison des deux.
Apprenez à créer des deep fakes sans connaissances techniques avec 24pm
Les usages du deepfake
Le deepfake peut être utilisé par les humoristes et les caricaturistes, pour tourner en dérision les personnages publiques tels que les hommes politiques ou les peoples.
Les reconstitutions historiques
Il peut aussi permettre aux journalistes ou historiens de faire parler des personnages historiques décédés, dans des émissions historiques.
La pornographie involontaire
La même année, des vidéos de « pornographie involontaire » (c’est-à-dire des vidéos de deep fake remplaçant le visage d’actrice de films pornographique par celui de victimes involontaires) ont été diffusés sur les réseaux sociaux comme Reddit et les plate-formes pornographiques comme Pornhub. Pour pouvoir produire des vidéo pornographiques deepfake réalistes, les pirates utilisaient les centaines de photos authentiques d’une célébrité pour apprendre au model d’intelligence artificielle à comprendre le visage de la célébrité sous tous les angles et tous les éclairages afin de l’intégrer de façon quasi indétectable sur le corps de l’actrice pornographique.
Reddit, Pornhub, ainsi que Twitter, ont interdit les vidéo de pornographie involontaire de type deepfake.
Votre 1er cours d'intelligence artificielle gratuit
La propagande politique et les Fakenews
Le deepfake a encore peu été utilisé dans le cadre de la diffusion de fakenews (en faisant tenir à des personnalités politiques des propos qu'elles n'ont jamais tenu, par exemple), mais présente visiblement un potentiel important.
Comment sont créés les deepfakes ?
Si de nombreuses technologies de deepfake sont uniquement accessibles aux laboratoires de recherche ou petits génies de l’IA qui les développent, il existe également des logiciels téléchargeables qui permettent à n’importe qui de réaliser des deepfakes. Fakeapp est, ainsi un logiciel téléchargeables permettant à n’importe qui de créer des deep fakes pour autant que l’on dispose d’une centaine d’image de la personne à imiter.
Techniquement parlant, les deepfakes s’appuient sur une forme d’intelligence d’intelligence artificielle en vogue depuis 2010, le machine learning et plus précisément sur les réseaux antogonistes génératifs (ou GAN Generative Antagonist Networks). Deux algorithmes sont mis en compétition l’un avec l’autre. Le premier algorithme, dit « générateur » créent de mauvaises imitations, mais crédibles toutefois. Le second algorithme, dit discriminateur cherche à séparer les mauvaises imitations des bonnes imitations. Progressivement, les deux algorithmes améliorent leurs performances, le premier algorithme crée des imitations de moins en moins mauvaises. Le second apprend à détecter les mauvaises imitations de plus en plus finement. En fin de cycle, le premier algorithme a créé des simulations tellement réalistes que le second algorithme ne peut plus faire le distinguo entre l’imitation produite par le premier algorithme et la vidéo authentique initiale, les deux ayant l’air aussi authentique l’une que l’autre.
