La modération laxiste des plateformes en question.
Ce weekend, les IA génératives ont encore fait parler d’elles, mais pas pour de bonnes raisons (et peu leur en trouvent). Associées aux deepfakes, elles peuvent devenir redoutables quand elles usurpent l’identité de personnalités, mais pourraient s’avérer tout autant destructrices pour M. et Mme Toutlemonde dans un avenir proche.
En effet, les deepfakes restent encore majoritairement utilisés pour détourner/usurper l’identité de célébrités. À ce titre, Taylor Swift est une cible très appréciée : après une arnaque se servant de sa voix générée par IA pour récupérer les données bancaires de ses fans, voilà que la star internationale voit de fausses images d’elle dénudée circuler sur les réseaux sociaux – et principalement X, l’ancien Twitter auujourd’hui aux mains d’Elon Musk. Oui, les faux contenus ont maintenant dépassé le stade des images vulgairement retouchées – nous sommes face à des IA génératives produisant des visuels plus vrais que nature.
La vidéo proviendrait à l’origine d’un groupe de discussion spécialisé dans ce genre d’images et de vidéos sur Telegram – un réseau reconnu pour être laxiste, sur ses politiques de modération, de par sa nature de messagerie privée et cryptée. X, cependant, ne bénéficie pas de cette (trop) simple excuse ; son absence de sécurité est en grande partie due aux “guidelines” mises en place par Elon Musk au nom de la “liberté d’expression”. Le renvoi de la quasi-intégralité du service de modération de l’application montre que cela est loin d’être la priorité de la plateforme. Elon Musk, en bon libertarien, n’a jamais caché son aversion pour toute forme de régulation (encore plus étatique) et prône la plus pure définition du « free speech ».
Le deepfake en question (généré via l’IA de Microsoft Designer) a circulé sur X pendant près de 24h avant d’être partiellement modéré. Un blocage semblant soutenir la chanteuse a empêché les recherches autour de « Taylor Swift » de produire des résultats pendant un certain temps, mais celui-ci semble déjà levé. Sans une prise de position ferme contre ces deepfakes et une modération poussée de la part des grandes plateformes, pour la plupart déjà en retard sur ces questions, la bataille s’annonce titanesque et les enjeux majeurs.
Certaines IA génératives embarquent des systèmes empêchant ce genre d’images d’être générées, en ne créant pas de contenus potentiellement pornographiques. Néanmoins, ce n’est pas le cas de tous ces modèles génératifs, notamment open source, c’est pourquoi les deepfakes vont devenir un problème plus répandu. Même si les réseaux sociaux sont tenus d’empêcher leurs propagations, leurs priorités ne semblent pas toujours alignées avec ces enjeux. Les IA sont accessibles à tous et se répandent de jour en jour ; de leurs côtés, les plateformes permettent une diffusion globale et rapide d’images, vidéos et informations.
En outre, le problème des IA génératives ne saurait rester limité aux célébrités ; avec les quantités d’information circulant en ligne, des arnaques sur mesure auront tôt fait d’apparaître. Déprimant, non ?
