Deepfake est un mot-valise de « deep learning » (apprentissage profond en anglais) et « fake » (faux en anglais). En français, on parlera de permutation intelligente de visages, une technique de synthèse d’image basée sur l’intelligence artificielle. Elle est principalement utilisée pour combiner et superposer des images et des vidéos existantes sur d’autres images ou vidéos (par exemple : le changement de visage d’une personne sur une vidéo).
La permutation intelligente de visages est surtout connue pour avoir été utilisée afin de créer de fausses vidéos à caractère sexuel qui mettent en scène des célébrités, et pour la porno de vengeance. La pornographie avec permutation intelligente de visages a émergé sur Internet en 2017, notamment sur Reddit, et a été depuis interdite par Reddit, Twitter, Pornhub et d’autres. Cette technique peut être utilisée pour créer des fausses nouvelles et des canulars malveillants.
Il est facile de trouver sur des sites de diffusion en continu comme YouTube ou Vimeo du contenu non pornographique qui fait appel à la permutation intelligente de visages. [réf. nécessaire] Il est aussi possible de faire facilement des vidéos avec permutation intelligente de visages en utilisant l’application FakeApp, qui utilise TensorFlow, un outil à code source ouvert développé par Google.
Les techniques pour simuler des mouvements faciaux et les transposer sur une personne cible ont été initialement présentés en 2016 et permettaient en temps quasi réel de contrefaire des expressions faciales dans des vidéos en 2D.
Avec le temps, la communauté Reddit a corrigé les défauts des vidéos, les rendant de plus en plus réalistes. Le phénomène « deepfake » a d’abord été dénoncé en décembre 2017 dans la section technique et scientifique du magazine Vice, conduisant à de nombreux reportages dans d’autres médias.
Au Royaume-Uni, les producteurs de vidéos avec permutation intelligente de visages peuvent être poursuivis pour harcèlement, mais des appels juridiques tentent actuellement de criminaliser la production de vidéos avec permutation intelligente de visages
Politique
La permutation intelligente de visages a été utilisée pour représenter des politiciens et des personnalités publiques sur des portails vidéo, des plate-formes de diffusion en continu et des dialogues en ligne. Par exemple, le visage du Président Argentin Mauricio Macri a été remplacé par celui d’Adolf Hitler, et le visage d’Angela Merkelpar celui de Donald Trump13,14. En avril 2018, Jordan Peele et Jonah Peretti ont montré les dangers de la permutation intelligente de visages en créant une fausse vidéo de Barack Obama faisant une annonce publique
Abus
L’Aargauer Zeitung affirme que la retouche d’images et de vidéos à l’aide de l’intelligence artificielle pourrait devenir un phénomène de masse dangereux. Cependant, la falsification d’images et de vidéos est plus vieille que l’avènement des logiciels de montage vidéo et des programmes de retouche d’images ; dans ce cas, c’est le réalisme qui devient un nouveau problème.
Il est également possible d’utiliser la permutation intelligente de visages pour des canulars ciblés et de la porno de vengeance
Effets sur la crédibilité et de l’authenticité
Un autre effet de la permutation intelligente de visages est qu’il est plus difficile de distinguer si le contenu est ciblé et modifié (par exemple pour de la satire) ou authentique. Le chercheur en IA, Alex Champandard a dit que tout le monde devrait savoir à quelle vitesse les choses peuvent être modifiées aujourd’hui avec la technologie, et que le problème ne doit pas venir de la technique, mais plutôt être résolu par la confiance des personnes dans l’information et le journalisme. Le principal écueil est que l’humanité pourrait tomber dans un âge où plus personne ne pourra déterminer si ce qui est donné par les médias correspond à la vérité ou non.
Réactions sur Internet
Certains sites, tels que Twitter et Gfycat, ont annoncés qu’ils allaient supprimer le contenu faisant appel à la permutation intelligente de visages et bloquer ses éditeurs. La plate-forme de dialogue en ligne Discord a déjà bloqué un canal de discussion qui présentait des vidéos pornographiques avec permutation intelligente de visages. Le site pornographique Pornhub, prévoit également de bloquer ces contenus, il n’a cependant pas encore mise son interdiction en application23,24. Du côté de Reddit, la situation était d’abord restée incertaine, jusqu’à ce que le subreddit soit suspendu le 7 février 2018 en raison d’une violation de sa politique de pornographie involontaire (« involuntary pornography » en anglais)
Comments