Et si vous créiez un deepfake de vous-même ?
L'algorithme Anonymizer génère en quelques secondes des dizaines de visages similaires au vôtre. Un moyen de rester anonyme sur le web, vante Generated Media, la société à l’origine de ce programme.
À quoi pourrait ressembler votre double virtuel ? L’outil Anonymizer de l’entreprise Generated Media peut vous donner une petite idée. Ce programme lancé le 25 novembre génère de faux visages à partir d’un portrait photo. On vous prévient : ces visages créés grâce à un algorithme d’intelligence artificielle (un GAN plus précisément) seront loin de votre portrait craché, mais ils auront quelques faux airs de ressemblance. De quoi tromper une personne qui ne vous connaît pas bien.
Voici par exemple quelques-uns des faux moi générés par Anonymizer à partir de ma photo de profil Twitter. Pas de ressemblance frappante, mais il y a quelque chose dans le regard et le cheveu légèrement négligé.
Des twittos ont essayé avec des photos de célébrités, et les résultats ne sont pas toujours probants…
— Michael Zimmer (@michaelzimmer) November 26, 2020
Le but de cet outil selon Generated Media serait de permettre aux internautes souhaitant protéger leur identité d’utiliser un faux visage (plus ou moins) similaire au leur – car il permet de connaître leur âge, leur couleur de peau, de cheveux – mais suffisamment différent pour ne pas révéler leur véritable apparence et tromper les algorithmes de reconnaissance faciale. Dans le viseur : certaines sociétés comme Clearview AI, qui analyse des millions de photos trouvées sur le web pour alimenter un système capable d’identifier les individus. L’idée d’Anonymizer serait d’ailleurs venue à Generated Media en constatant que certains internautes, des activistes notamment, utilisent déjà des techniques pour tromper ces algorithmes de reconnaissance faciale : flouter ou altérer leur photo de profil sur les réseaux sociaux, par exemple.
Mais ces « jumeaux » virtuels peuvent-ils réellement protéger l’identité d’un individu ? Pas vraiment, répond Chris Gilliard, chercheur à Harvard et spécialiste de la surveillance technologique, interrogé par Debugger. Car les données concernant une identité vont bien au-delà des photos de profil et qu’il est de toute façon relativement facile « d'obtenir des photos d’une personne en fouillant les réseaux sociaux ». Il ne faut pas espérer qu’une tech nous sorte de ce problème, estime le chercheur.
Ce qu’illustre Anonymizer est surtout la démocratisation et l'industrialisation des deepfakes, ces images et vidéos trafiquées grâce à l’IA. Generated Media en a fait un véritable business. Anonymizer est accessible gratuitement, à condition de l'utiliser à des fins non commerciales, mais l’entreprise propose aussi une offre payante, une sorte de marché de faux visages. Pour 2,99 dollars il est possible d’acheter une photo de bonne qualité d’un visage généré artificiellement, et 1 000 visages pour 1 000 dollars. Des abonnements mensuels et annuels sont également proposés. Generated Media fournit des échantillons de visages personnalisés : à vous de choisir si vous voulez plutôt des femmes, maquillées ou pas, noires ou blanches...
Parmi ses clients, on trouve des créateurs de jeux vidéo pour concevoir des galeries de personnages, mais aussi par l’éditeur de logiciels professionnels SAP pour faire des démonstrations à ses futurs clients avec des avatars leur ressemblant plus ou moins. La publicité s’intéresse aussi de près à ces technologies.