L'intelligence artificielle progresse rapidement à l'ère des fake news.
Récemment, la société médiatique américaine BuzzFeed a créé un buzz en utilisant l'outil FakeApp et le logiciel Adobe After Effects pour faire dire à l'ancien président Barack Obama que le président Trump était « un connard complet ». Cette vidéo, très réaliste, illustre le potentiel spectaculaire de l'IA dans la création de deepfakes.
FakeApp est un outil gratuit et populaire basé sur TensorFlow, la plateforme open source d'IA de Google. De nouvelles vidéos humoristiques émergent quotidiennement, où Nicolas Cage remplace d'autres acteurs dans des films ou séries célèbres, comme sur Sean Connery dans James Bond ou Stephen Dillane dans Game of Thrones.
Pour réaliser ces deepfakes, il faut télécharger des centaines de photos de la personne cible sous divers angles et éclairages, et disposer d'un ordinateur puissant. Le logiciel utilise l'apprentissage profond pour remplacer le visage original par celui de la cible dans chaque frame. La qualité dépend du matériel et de la complexité de la vidéo source. Les célébrités et politiciens sont les cibles privilégiées.
Ces vidéos trompent facilement l'œil humain, mais des indices numériques révèlent souvent les manipulations, notamment via le format des fichiers photo et vidéo.
Les contenus web subissent une compression, comme le JPEG, qui réduit la taille des fichiers en supprimant les détails imperceptibles. Le JPEG divise l'image en blocs 8x8 pixels, les approxime par des motifs de base pondérés, puis quantifie (arrondit) les valeurs. Une compression forte dégrade la qualité, et les réenregistrements successifs en JPEG amplifient les artefacts – un indice clé pour détecter les deepfakes.
Dans un exemple simple réalisé sous PowerPoint, un échange de visage entre moi-même (photo professionnelle haute qualité JPEG) et une femme Sherlock Holmes (photo basse qualité d'eBay) produit des valeurs de quantification incohérentes dans la zone manipulée, contrastant avec le reste de l'image. Des faux positifs apparaissent toutefois aux arêtes nettes, comme le col d'un chemisier.
Cette méthode n'est pas infaillible : son efficacité varie selon le matériel, et les traces peuvent être masquées. Comme Edmond Locard l'a démontré avec les empreintes digitales il y a un siècle (contournables par des gants), la détection de deepfakes pourrait rester un jeu du chat et de la souris.
[]