Jusqu'ici tout va bien.
Les memes font partie intégrante de la culture web au même titre que les GIF ou les trolls. Avec l’essor des réseaux sociaux, de la vidéo et plus largement des contenus en ligne, ces petits éléments déclinés en masse deviennent de plus en plus élaborés. À présent, les deepfakes ont trouvé leur porte d’entrée au sein de cette culture meme, par le truchement de nouveaux créateurs de contenus qui s’immiscent dans la brèche ouverte par d’autres entreprises spécialisées dans ces nouvelles technologies (comme l’intelligence artificielle).
À la différence près que les démonstrations déjà surprenantes et ultra sophistiquées d’alors (rappelons-nous ce deepfake d’Obama par Jordan Peele en 2018) sont désormais vulgarisées pour le commun des mortels connectés. Avec toutes les inquiétudes que cela entraîne : de nouvelles méthodes de désinformations voient le jour à mesure que la technologie se perfectionne. Le deepfake audio est déjà là.
Dans un article pour le MIT Technology Review, Karen Hao explique ainsi comment Grace Windheim, en découvrant un meme viral dans le cadre de son travail, a entrepris d’en expliquer les secrets de fabrication sans se douter des conséquences.
« Windheim fait partie d’un nouveau groupe de créateurs en ligne qui jouent avec les deepfakes alors que la technologie devient de plus en plus accessible et s’infiltre dans la culture Internet », note la journaliste tech et ingénieure Karen Hao.
Créatrice de contenu pour la startup Kapwing (société créatrice de memes à l’origine, aujourd’hui pourvoyeuse de solutions logiciels de montage vidéo sur navigateur), où elle délivre 1001 conseils pour appréhender différents outils pour son propre bénéfice ou celui de sa communauté, Grâce Windheim tombe sur le meme deepfake Baka Mitai et se rend compte qu’il est non seulement facile et gratuit d’en produire un, mais qu’aucun tutoriel n’en explique sa conception. Elle publie le sien sur Youtube le 4 août dernier. Plus de 420 000 vues plus tard, des tutoriels reproduisant l’algorithme open source du deepfake débusqué lui-même dans un tutoriel YouTube fleurissent sur la plateforme de partage de vidéo.
« La différence [avec Grace Windheim] : beaucoup d’entre eux apprennent à leur public à créer n’importe quel type de mème deepfake. L’un d’eux apprend même aux gens à les réaliser sur mobile », pointe Karen Hao. Celle-ci observe ainsi une arrivée massive de ces memes deepfake sur les réseaux sociaux comme Twitter et Instagram, mais surtout sur la plateforme phénomène TikTok. Avec ses vidéos courtes, ces challenges, chorégraphies et ses effets visuels à la pelle, l’application se prête particulièrement à la diffusion de ces mèmes deepfake.
@azerrz The Fresh Prince Song in Voice Impressions! ##foryou ##fyp ##voiceimpressions ##impressions ##funny ##freshprince ##fresh ##deepfake
@ploxyzero ##damedane ##bakamitai ##deepfake ##meme ##memes ##dankmemes
La popularité récente des applications Doublicat et Reface app confirme l’engouement pour cette technologie. Le hashtag #deepfake comptabilise 146 millions de vues, et #deepfakechallenge, 3,3 millions de vues sur TikTok. Tout y passe, célébrités, anonymes, politiques, personnages historiques. Dans la plupart des cas évidemment, la supercherie est vite démasquée, car le rendu volontairement grossier et n’a pour seule vocation de divertir. Les deepfakes hyper réalistes nécessitent encore d’importantes ressources informatiques et sont coûteux à concevoir.
@digitalverse My friends looks like Thor and Iron man ? Нашли пасхалку с вертолетами России?) ##deepfake ##thor ##ironman ##рек
Si son adoption par TikTok & co n’est que la dernière évolution des cas d’usage de cette technologie, utilisée majoritairement à des fins pornographiques (comme en 2018 avec de faux films pornographiques de célébrités), sa vulgarisation et sa rapide adoption inquiète dans un monde déjà aux prises avec les fakes news et la désinformation.
Entre divertissement et manipulation, seules les intentions et la sophistication de l’outil feront la différence, puisque l’outil en lui-même n’est pas foncièrement mauvais : la technologie est déjà utilisée par des éducateurs, formateurs, communicants comme un nouveau moyen d’expression créatif. En octobre dernier, l’agence la chose était revenue sur l’utilisation d’un deepfake de Donald Trump pour la campagne de Solidarité Sida. Nous nous demandions alors, « Pour ou contre les deepfakes dans la communication ? » De Grace Windheim à la chose, tous mettent en avant le fait que certaines règles doivent être respectées, comme afficher le contenu comme tel. Avec l’essor de cette technologie, les deepfakes faciles à concevoir et quasi indétectables seront là demain. Le géant chinois Tencent (WeChat) est déjà sur les rangs pour améliorer ces outils créatifs à destination du grand public. En viendra-t-on à se demander « Pour ou contre le deepfake pour tous ? »
