Pourquoi il faut des modèles de comportement humain pour détecter les identités synthétiques
Les identités synthétiques, créées par des acteurs malveillants à partir de données publiques et personnelles, représentent une menace croissante dans le paysage numérique actuel. Ces identités fictives, bien qu’assemblées à partir d’informations authentiques, réussissent à tromper les systèmes antifraudes traditionnels qui ne sont pas conçus pour les détecter. Il est donc crucial de développer des modèles d’intelligence artificielle (IA) capables d’identifier des comportements humains anormaux.
Table des matières
Contexte factuel
Des plateformes comme YouTube ont commencé à réagir à cette menace. En septembre 2025, la plateforme a élargi sa technologie de détection de ressemblance pour permettre aux créateurs de son programme Partenaire de télécharger une image de leur visage. Cela permet au système d’identifier les contenus générés par IA utilisant leur image sans autorisation. De même, un comité du Parlement indien a recommandé l’exploration d’un régime d’octroi de licences pour les créateurs de contenus IA, ainsi qu’un étiquetage obligatoire des vidéos générées par l’IA. Cependant, ces mesures interviennent après la création et la diffusion de contenus, ce qui est insuffisant pour prévenir les dommages causés par les identités synthétiques.
Données ou statistiques
Les identités synthétiques se distinguent des deepfakes et des bots par leur capacité à utiliser des données réelles—comme des adresses et des parcours professionnels—pour créer des profils convaincants. Les systèmes antifraudes traditionnels se basent sur des signaux faibles connus, mais ces identités sont uniques et souvent générées à partir de vastes ensembles de données compromises. Des modèles d’IA entraînés sur les comportements humains pourraient détecter des anomalies, telles que des incohérences dans les comportements ou des accès inadaptés aux rôles.
Conséquence directe
La plupart des organisations ne sont pas encore prêtes à faire face à cette menace, continuant de s’appuyer sur des méthodes d’authentification basées sur des identifiants. Pour contrer efficacement les identités synthétiques, il est impératif de repenser la notion d’identité numérique et d’adopter une approche de détection fondée sur l’observation des comportements dans la durée.
Source : Article original.
