Sommaire :
Autorisation de Meta pour étiqueter les images générées par IA
Dans une note de blog publiée le 6 février, Meta a déclaré vouloir étiqueter toutes les images générées par l’intelligence artificielle publiées sur ses plates-formes. Nick Clegg, le responsable des affaires internationales de Meta, a annoncé que cette mesure serait mise en place dans les prochains mois. L’étiquetage permettrait de détecter les signaux de l’IA conformes aux normes de l’industrie.
Labélisation appliquée à tous les outils générant des contenus
Meta souhaite appliquer cette labélisation à tous les outils utilisés pour générer des contenus, qu’ils soient de Google, OpenAI, Microsoft, Adobe, Midjourney ou Shutterstock. Ils s’appuieront sur les métadonnées ajoutées par ces entreprises aux images créées avec leurs outils.
Défis pour détecter les signaux dans les contenus sonores et vidéo
Cependant, Nick Clegg reconnaît que les « tatouages numériques » appliqués aux images générées par l’IA ne sont pas encore présents dans les contenus sonores ou vidéo, ce qui empêche Meta de les étiqueter. En attendant que cette fonctionnalité soit développée, les utilisateurs seront invités à indiquer s’ils partagent des vidéos ou sons générés par l’IA.
Objectif de minimiser la prolifération des fausses images
Nick Clegg admet que l’étiquetage à grande échelle ne pourra pas éliminer complètement le risque de production de fausses images. Cependant, il espère que cela permettra de minimiser leur prolifération. Meta est prêt à partager sa technologie ouverte avec l’industrie pour développer les normes communes nécessaires.
Les outils actuellement en place ne sont pas infaillibles
Meta a déjà mis en place un étiquetage automatique sur les images photoréalistes générées par son propre outil d’images génératives, Meta AI. Cependant, une étude menée par Tech Transparency Project a montré que ce dispositif présentait des failles. L’ONG a pu générer des images problématiques ou interdites aux mineurs qui ont été validées par la plate-forme comme des publicités destinées aux adolescents.
Contexte et craintes liées aux deepfakes
Cette annonce intervient après l’avis du conseil de surveillance de Meta, qui a demandé à la société de rendre clairement identifiables les images et les sons modifiés, qu’ils soient générés avec ou sans IA. Les autorités craignent une augmentation des deepfakes lors des élections majeures, telles que la présidentielle américaine en 2024.
