Sommaire :
Meta étiquette les images générées par l’IA sur ses plateformes
Les fausses informations se propagent rapidement sur les réseaux sociaux, notamment sur les plateformes de Meta. Afin d’informer les utilisateurs sur la véracité des images, Meta, la société mère de Facebook et Instagram, a décidé d’étiqueter les images générées ou manipulées par l’intelligence artificielle (IA). Cette mesure s’inscrit dans les efforts de Meta pour promouvoir la transparence en ligne et lutter contre la désinformation, en particulier à l’approche des élections de 2024.
Les étiquettes d’IA pour les images provenant de sources tierces
Actuellement, Meta utilise déjà un filigrane visible pour marquer les images créées par son propre moteur d’IA Imagine. Dorénavant, Meta étendra cette pratique aux images provenant de sources tierces telles que OpenAI, Google et Midjourney. Les étiquettes indiqueront que les images sont générées par l’IA et donneront plus d’informations sur la source et le processus. Le design exact des étiquettes est en cours de finalisation, mais Meta a partagé une maquette montrant que les étiquettes pourraient comporter les mots « AI Info » à côté des images.
Détection des marqueurs invisibles dans les images provenant de générateurs tiers
En plus des étiquettes visibles, Meta développe des outils pour détecter les marqueurs invisibles intégrés dans les métadonnées des images provenant de générateurs tiers. Ces marqueurs servent d’identifiants uniques qui ne peuvent pas être modifiés par les logiciels d’édition. Meta souhaite mettre en place un système permettant de reconnaître ces marqueurs utilisés par d’autres plateformes pour lutter contre les fausses informations.
Les défis liés à l’audio et à la vidéo générés par l’IA
Actuellement, Meta ne dispose pas de la technologie nécessaire pour identifier le contenu audio et vidéo généré par l’IA au même niveau que les images. Cependant, Meta travaille sur cette capacité et mettra à jour ses politiques en conséquence. En attendant, l’entreprise demande aux utilisateurs de signaler si le contenu audio ou vidéo qu’ils téléchargent a été produit ou édité par l’IA. Si le contenu est suffisamment réaliste pour tromper le public, Meta apposera une étiquette plus visible avec des détails supplémentaires.
Amélioration des outils d’IA de Meta
En plus de marquer les images générées par l’IA, Meta améliore ses propres outils d’IA tels que son moteur Imagine et ses modèles de langage. Meta développe une nouvelle technique de filigrane appelée Signature stable, qui rendra les marqueurs plus résistants à la suppression. Les LLM (grands modèles de langage) de Meta sont également formés selon les normes communautaires de l’entreprise afin de signaler les contenus enfreignant ses politiques.
Meta déploie les étiquettes d’IA dans les mois à venir
Meta prévoit de déployer les étiquettes pour les images générées par l’IA dans les mois à venir, en préparation des élections de 2024 dans de nombreux pays, dont les États-Unis. L’objectif de cette initiative est d’aider les utilisateurs à prendre des décisions éclairées et de prévenir la diffusion de fausses informations sur les plateformes de Meta.
Cependant, le comité de surveillance de Meta a récemment demandé une révision de sa politique « incohérente » en matière de médias manipulés, après avoir autorisé la diffusion d’une vidéo modifiée du président Joe Biden sur Facebook.
