Sommaire :
Prolifération des Vidéos Inappropriées en Ligne
Les plateformes numériques sont envahies par des vidéos inappropriées incluant violences, menaces et actes sexuels. Les modérateurs ont souvent seulement deux ou trois minutes pour décider de les supprimer ou non.
Travail des Modérateurs de Contenu
Cadre de Travail
Dans une ville d’Asie du Sud-Est, des modérateurs de contenu travaillent dans un immeuble, la plupart du temps dans le silence devant leur ordinateur. Casques sur les oreilles, ils scrutent méticuleusement les publications jugées inappropriées sur Internet. On les surnomme « nettoyeurs des réseaux sociaux ».
Témoignage
Un modérateur japonais, employé par un sous-traitant d’un géant du numérique, a accepté de répondre à nos questions sous condition d’anonymat :
“On m’interdit de parler en détail du contenu de mon travail.”
Conditions de Travail
Régime de Travail et Confidentialité
Employé sous un régime de trois-huit, il travaille en équipes organisées par langue. Il touche un salaire mensuel d’environ 200 000 yens (environ 1 200 euros). Le niveau de confidentialité est très strict; il n’a pas le droit d’apporter son smartphone ou même un stylo dans la salle.
Procédure de Modération
À son poste, il utilise deux écrans : l’un pour visionner les vidéos à une vitesse rapide, et l’autre pour consulter les nombreuses règles de modération, contenues dans un document long de près de mille pages. Lorsqu’il détecte un contenu interdit, il le classe sous une catégorie comme « violence », « porno », « harcèlement » ou « haine », et copie la règle enfreinte dans le champ des commentaires. « La chose essentielle est de la trouver aussi vite que possible », explique-t-il.
Détection Automatique et Jeu du Chat et de la Souris
Intelligence Artificielle
Outre les contenus signalés par les utilisateurs, certaines publications sont probablement détectées automatiquement par l’intelligence artificielle (IA). Cependant, il n’a pas connaissance des critères de sélection.
Gestion des Vidéos
S’il tombe sur une vidéo particulièrement choquante, comme celle montrant une personne battue jusqu’au sang ou contenant des menaces de mort explicites, il la supprime immédiatement. En cas de doute, il transfère la vidéo à un service spécialisé. Sur les 80 vidéos qu’il visionne chaque jour, il en supprime environ trois et trouve difficile à juger une dizaine d’autres.
Entités Mentionnées et Compléments d’Informations
Géants du Numérique
Les géants du numérique, comme Google, Facebook et YouTube, emploient directement ou indirectement de nombreux modérateurs de contenu à travers des sous-traitants afin de maintenir la qualité et la sécurité de leurs plateformes. Ces entreprises investissent également dans des technologies d’IA pour automatiser la détection de contenus inappropriés.
Intelligence Artificielle (IA)
L’IA joue un rôle croissant dans la modération de contenu. Des algorithmes sophistiqués sont utilisés pour analyser les vidéos, les images et les textes afin de détecter automatiquement les contenus qui violent les politiques de la plateforme. Bien que l’IA améliore l’efficacité de la modération, elle n’est pas encore infaillible et nécessite souvent une intervention humaine pour les cas ambigus.
