L'intelligence artificielle gagne du terrain à l'ère des fake news.
Récemment, la société de médias américaine BuzzFeed a fait un coup. Grâce à l'outil d'échange de visages FakeApp et au logiciel Adobe After Effects, il a laissé l'ex-président américain Barack Obama dire qu'il pensait que l'actuel président Trump était un connard complet. La vidéo semble très réaliste. Il illustre comment l'intelligence artificielle peut gagner du terrain de manière spectaculaire à l'ère des fake news.
FakeApp est un outil populaire et disponible gratuitement basé sur TensorFlow, une plate-forme d'IA open source de Google. De nouvelles vidéos comiques FakeApp apparaissent chaque jour dans lesquelles l'acteur Nicolas Cage remplace un autre acteur dans un film ou une série bien connue. Il était déjà 'truqué' sur la tête de Sean Connery dans James Bond et celle de Stephen Dillane dans Game of Thrones.
Pour réaliser de tels films, vous devez télécharger un grand nombre de photos de la personne que vous souhaitez présenter dans votre vidéo (et vous avez besoin d'un ordinateur puissant). En règle générale, vous avez besoin de plusieurs centaines de photos qui représentent la personne sous différents points de vue et dans différentes conditions d'éclairage.
Le logiciel applique ensuite la technologie dite de « apprentissage en profondeur » pour identifier le visage d'origine dans chaque cadre. de la vidéo remplacé par un visage approprié de la nouvelle personne. La qualité du résultat dépend du matériel fourni et de la complexité de la vidéo originale. Parce que nous avons principalement beaucoup de séquences d'acteurs et de politiciens connus, ils apparaissent principalement dans de tels DeepFakes.
Ces vidéos peuvent facilement nous tromper visuellement. Néanmoins, il est souvent possible de trouver des preuves numériques des manipulations. Cela peut être fait en exploitant le format de fichier des photos et vidéos utilisées.
Le matériel visuel distribué sur Internet est presque toujours soumis à la compression. C'est un algorithme qui réduit la quantité de données que le fichier occupe à l'origine. Cela facilite l'envoi des images sur Internet ou pour économiser de l'espace lors de l'enregistrement. En compression, un algorithme recherche les informations superflues dans une image. Il supprime les petits détails que notre œil nu ne remarque pas et les combine efficacement avec les informations restantes.
Le format de compression le plus connu est JPEG. Cela divise d'abord une image en petits blocs de 8 par 8 pixels, pour ensuite les « approcher » via une combinaison pondérée d'un certain nombre de blocs de construction de base. Chacun de ces blocs représente un certain motif rythmique.
Enfin, les nombres trouvés dans cette combinaison sont arrondis - un processus appelé quantification. Plus l'arrondi est important, plus la compression est importante. Mais aussi :plus la qualité est mauvaise. Saviez-vous que si vous enregistrez plusieurs fois la même photo en JPEG, la qualité se dégrade ? C'est cet effet qui peut nous donner la preuve numérique d'un DeepFake.
Dans PowerPoint, j'ai fait un simple échange de visage de moi-même sur une femme Sherlock Holmes. La photo JPEG de moi-même a été prise par un photographe professionnel et est de haute qualité. J'ai choisi la photo de Holmes sur Ebay, où elle était de mauvaise qualité.
Maintenant, lorsque j'applique l'algorithme JPEG au faceswap, j'obtiens des nombres arrondis très différents dans les combinaisons de blocs de construction de base où j'ai effectué la manipulation. Les chiffres diffèrent de ceux de la majorité de l'image. Vous pouvez découvrir la manipulation faciale de cette façon. D'autre part, vous remarquez également un certain nombre de faux positifs, notamment dans les zones aux arêtes vives, comme le col du chemisier.
Cette technique de démasquage n'est donc certainement pas infaillible. Son efficacité dépend beaucoup du matériau utilisé. En plus de cela, vous pouvez dissimuler les preuves. Il y a une centaine d'années, le criminologue Edmond Locard a découvert que les empreintes digitales pouvaient identifier un voleur. Il est vite devenu évident que vous pouvez éviter ces empreintes avec un simple gant. Il en va de même pour DeepFakes, où vous pouvez également contourner facilement l'impression numérique. Cela restera-t-il un jeu du chat et de la souris ?
