Sommaire :
Une fausse vidéo mettant en scène Taylor Swift
Une fausse vidéo générée par l’intelligence artificielle et à caractère pornographique met en scène l’artiste Taylor Swift. Après l’arnaque permettant de récupérer des données bancaires, Taylor Swift est de nouveau victime de l’intelligence artificielle. Sur le réseau social X (anciennement Twitter), la chanteuse fait en effet l’objet d’une vaste campagne de spam autour d’une fausse vidéo à caractère pornographique, dans lequel elle est mise en scène. Selon The Verge, l’une de ces vidéos a atteint les 45 millions de vues et a été repostée plus de 24.000 fois avec des centaines de milliers de J’aime. Le compte concerné a depuis été banni de la plateforme, mais la publication était en ligne depuis près de 24 heures avant que la décision ne soit prise.
Une vidéo partagée massivement
Le site spécialisé 404 Media révèle que l’origine de la vidéo provient d’un groupe Telegram, dans lequel des utilisateurs se partagent des médias générés par l’IA de Microsft Designer. L’un de ces membres aurait d’ailleurs été vu en train de se moquer de l’important succès de cette fausse image de Taylor Swift sur X.
La réaction de X
Le réseau social détenu par Elon Musk a depuis communiqué sur le sujet, expliquant qu’il n’était pas autorisé de partager du contenu sexuel « non consensuel » et que leurs équipes étaient en train de supprimer « activement » toutes les occurrences. À l’heure de l’écriture de ces lignes, de nombreuses publications montrant la vidéo ou des liens Telegram pour la voir étaient encore en ligne, d’autant plus que la plateforme a procédé au licenciement d’une bonne partie de ses salariés dédiés à la modération, tout en allégeant considérablement ses règles. Pour cela, X fait l’objet d’une vaste enquête de l’Europe.
La réaction des fans de Taylor Swift
Une situation qui a suscité la polémique, notamment chez les fans de Taylor Swift, qui ont alors pris la parole pour tenter d’endiguer à leur manière le problème. Ils ont ainsi utilisé les mêmes mots-clefs que ceux partageant la vidéo afin de poster des images bien réelles et non-explicites de l’artiste. Très actifs, les « Swifties » ont ainsi inondé les réseaux sociaux.
Les défis de la modération des médias générés par IA
La plupart des intelligences artificielles génératives disponibles auprès du grand public restreint la possibilité de créer des contenus pornographiques, mais cette affaire montre à quel point il va devenir difficile de contenir ce type de médias à l’avenir.
Compléments d’informations sur les entités nommées
Taylor Swift
Taylor Swift est une célèbre artiste américaine, chanteuse et compositrice de musique pop. Connue pour ses nombreux succès, elle compte des millions de fans à travers le monde.
X (anciennement Twitter)
X est un réseau social qui était anciennement connu sous le nom de Twitter. Il permet aux utilisateurs de partager des messages courts appelés tweets, ainsi que des images et des vidéos. X est l’une des plateformes de médias sociaux les plus populaires au monde.
IA de Microsoft Designer
L’IA de Microsoft Designer est une intelligence artificielle développée par Microsoft qui est capable de générer des médias tels que des images et des vidéos de manière automatisée.
Elon Musk
Elon Musk est un entrepreneur et homme d’affaires américain. Il est connu pour être le fondateur et PDG de plusieurs entreprises technologiques, dont SpaceX et Tesla.
« Swifties »
« Swifties » est le surnom donné aux fans de Taylor Swift. Ils sont connus pour être très dévoués à leur idole et pour être actifs sur les réseaux sociaux pour la soutenir.
404 Media
404 Media est un site spécialisé dans les médias et la technologie. Il fournit des informations et des analyses sur les derniers développements dans le domaine de la technologie et des médias en ligne.
Europe
L’Europe désigne le continent situé à l’ouest de l’Asie. Elle est composée de nombreux pays et est connue pour être un acteur majeur dans le domaine politique et économique à l’échelle mondiale.
