Sommaire :
Deep Fakes made in Intelligence artificielle
De plus en plus d’adolescentes à l’école sont victimes de harcèlement sur les réseaux sociaux via des deep fakes.
Comment certains jeunes arrivent-ils à générer ces deep fakes pour nuire à la réputation de leurs camarades et les harceler ? Des logiciels spécifiques sont-ils utilisés pour transformer les photos ?
Alexander Polonsky : Il est assez facile de trouver sur Internet des techniques ou des logiciels permettant de transformer des photographies normales et de dénuder les personnes figurant sur les photos. En quelques étapes, le cliché est modifié. Les personnes malveillantes qui vont retoucher les photos et générer des fausses photos de nus avec l’IA mènent ce genre d’actions afin de faire chanter leurs cibles et pour obtenir de l’argent.
L’usage principal de ces outils et de certains logiciels permettant de dénuder les personnes sur des images est d’origine malveillante.
Les autres objectifs de l’utilisation de cette technologie sont le harcèlement, l' »amusement », ou dans le cadre d’un travail de design pour les vêtements.
Les adolescentes sont-elles victimes de chantage ou de campagnes nocives essentiellement sur les réseaux sociaux avec cette technique des deep fakes et des fausses photos de nus ?
Les adolescentes sont principalement ciblées par cette technique sur les réseaux sociaux. Les personnes malveillantes à l’origine des fausses photos de nus vont faire pression sur les adolescentes pour obtenir une rançon. Les harceleurs vont menacer de diffuser et de relayer ces fausses photos de nus afin de forcer les jeunes femmes à verser des sommes d’argent.
Ces fausses photos sont aussi générées et partagées dans des groupes privés ou dans des réseaux privés sur les messageries instantanées au sein des classes et des établissements scolaires pour nuire à la réputation d’une élève ou pour mener une campagne de harcèlement.
Est-il possible d’interdire certaines applications de « nudification » qui permettent de transformer des photos tout à fait naturelles de camarades de classe habillés ? Est-ce qu’il y a des moyens légaux de lutter contre ces logiciels qui permettent de rendre les personnes nues sur Internet ?
Des moyens légaux existent mais ils sont très limités, malheureusement. Certains logiciels en question sont des versions piratées. Certains sites Internet qui proposent ce service sont basés dans des pays étrangers comme en Russie ou en Chine. Ces pays, via notamment l’influence de TikTok, ont tendance à utiliser tous les moyens possibles pour perturber et fragiliser l’Occident. Ces outils et logiciels participent à ce phénomène. TikTok a une influence nocive dans le monde occidental.
Il n’est pas facile également de lutter contre certains pirates sur le dark web qui vont générer et relayer de fausses photos de nus. Il est difficile de les surveiller.
Les établissements scolaires, l’administration ou le ministère de l’Education nationale ont facilité le développement des nouvelles technologies. Est-ce qu’il ne pourrait pas y avoir des régulations au sein de l’école avec des interdictions, plus de contrôles et plus de sévérité à l’égard de ces pratiques des fausses photos de nus ?
Il est important d’agir, notamment contre les sites qui proposent ce service. Ils pourraient être bannis à l’école ou fermés. Il devrait être possible de les inscrire sur des listes noires et qu’ils ne soient plus accessibles pour les adolescents malveillants.
Les parents d’élèves devraient aussi être alertés sur l’existence de ces sites pour qu’ils puissent être bloqués à la maison. Cette solution serait très efficace et permettrait de lutter contre ces campagnes de fausses photos de nus.
Faudrait-il mieux former les équipes pédagogiques au sein des établissements scolaires et permettre de créer des cellules qui permettraient à la fois d’aider les adolescentes victimes et de bannir les images ?
Il y a au sein de l’Education nationale des campagnes de prévention qui sont menées sur le harcèlement et le cyber harcèlement mais la vigilance doit être renforcée.
Le fait d’en parler peut aussi inciter certains jeunes à passer à l’acte et à mener des campagnes de cyber harcèlement.
Faudrait-il être plus sévère avec les auteurs de ces deep fakes ? Serait-il possible d’aller encore plus loin pour punir les élèves qui participent à ces campagnes de harcèlement ?
Il y a des moyens juridiques pour lutter contre le partage de ces fausses photos de nus. Le gouvernement est notamment engagé dans des campagnes dans le cadre de la lutte contre le harcèlement scolaire.
Mais il est très difficile de lutter contre la « production » de ce type de photos pour l’usage privé. Pour le partage, cela est plus facile à tracer et les commanditaires peuvent être identifiés et poursuivis.
Cette épidémie de fausses photos de nus fait des ravages aux Etats-Unis. La France est-elle particulièrement exposée par rapport à ce phénomène au regard de la dépendance des adolescents aux réseaux sociaux ?
La France est exposée à ce risque et doit lutter plus efficacement contre ces campagnes de harcèlement. En revanche, la plupart des logiciels et des sites permettant de dénuder les photos sont essentiellement en anglais. Les utilisateurs en France de ce type de sites et d’applications ont donc une maîtrise de l’anglais afin de formuler leur requête et pour générer ces deep fakes. Certains contournent cet obstacle en utilisant des traductions automatiques.
