Deepfakes sexuels : comment l’IA facilite la désinformation de genre
Ces dernières années, les deepfakes sexuels, images ou vidéos ultraréalistes générées par intelligence artificielle, inondent le web. Ce phénomène cible presque exclusivement les femmes. Récemment, la Première ministre italienne, Giorgia Meloni, a été victime de cette pratique. Elle a reposté l’un de ces hypertrucages pour dénoncer la dangerosité du phénomène.
Table des matières
Une image la montrant en sous-vêtements, assise en tailleur sur un lit, a fait le tour des réseaux sociaux. Visuellement, il est presque impossible de distinguer l’utilisation d’un outil d’intelligence artificielle. Pourtant, cette photo est entièrement fabriquée. Ce n’est pas la première fois que Giorgia Meloni est ciblée par des deepfakes sexuels, son visage étant apparu dans plusieurs vidéos pornographiques, parfois visionnées des millions de fois. Elle a déclaré : « Moi, je peux me défendre, beaucoup d’autres ne le peuvent pas. »
Un phénomène mondial
Son cas n’est qu’un exemple parmi d’autres. Des personnalités comme la superstar américaine Taylor Swift ou l’influenceuse française Léna Situations ont également été touchées. Mathilde Saliou, journaliste et autrice, souligne que « les femmes exposées médiatiquement sont particulièrement ciblées ». Ce phénomène ne concerne pas seulement les célébrités. Avec l’amélioration des outils d’IA, une simple photo suffit aujourd’hui pour générer un deepfake sexuel hyperréaliste, sans contrôle ni vérification de l’âge ou du consentement.
Désinformation de genre
Le terme deepfake sexuel est récent, mais le phénomène lui-même n’est pas nouveau. Les techniques de détournement d’images des femmes ont évolué, mais l’objectif demeure le même : humilier. Mathilde Saliou explique que ramener les femmes à leur sexualité pour les rabaisser est un trope du sexisme. L’industrialisation des deepfakes sexuels a permis à certaines plateformes d’en faire un véritable business, avec des implications criminelles, y compris la génération de contenus pédopornographiques.
Le rôle des modèles d’IA
Saliou indique que ce phénomène est symptomatique d’un problème social plus large. Les modèles d’IA nécessitent d’énormes quantités de données pour atteindre un réalisme impressionnant. Au fil du temps, ces modèles ont été alimentés par des contenus peu modérés, souvent empreints de misogynie, de racisme et d’autres formes de discrimination. Cela soulève des questions sur la neutralité de ces outils.
Accélérer la réglementation
Face à cette situation, des pistes pour enrayer le phénomène émergent. L’évolution de la législation est une priorité. Certains pays sont plus avancés que d’autres sur ce sujet. Les États membres de l’Union européenne ont récemment convenu d’interdire les IA permettant de dénuder des personnes sans leur consentement, mais l’efficacité de cette réglementation reste à prouver.
Source : RFI
