Des adolescentes américaines victimes de faux nus créés par l’IA
Des montages hyperréalistes à caractère sexuel, créés grâce à l’intelligence artificielle (IA), sont devenus une réelle menace pour les adolescentes aux États-Unis. Ces deepfakes, fabriqués sans leur consentement, circulent sur les réseaux sociaux, causant des préjudices psychologiques considérables.
À l’instar d’Ellis, une adolescente texane de 14 ans, de nombreuses jeunes filles ont été victimes de cette pratique. Des fausses photographies d’elles dénudées, éditées à partir de leurs images sur Instagram, ont été partagées sans répit sur Snapchat. Les victimes se retrouvent ainsi exposées à l’humiliation et au harcèlement numérique.
Les deepfakes sont rendus hyperréalistes grâce aux avancées de l’IA générative. Cette technologie permet de produire des contenus tels que des textes, des images et des sons sur simple requête en langage courant. Désormais, n’importe qui ayant un smartphone et quelques dollars peut créer un deepfake, ce qui pose un véritable défi pour les victimes et les autorités.
Les conséquences traumatiques des deepfakes
Les conséquences psychologiques des deepfakes sont très réelles. Les victimes souffrent d’anxiété, de crises de panique, de dépression, voire de syndromes post-traumatiques. Ces montages hyperréalistes peuvent détruire la vie de ces jeunes filles, qui vivent dans la peur constante de voir ces images ressurgir sur Internet.
Une menace grandissante pour les femmes et les jeunes filles
Les deepfakes à caractère sexuel touchent principalement les femmes et les jeunes filles. Leur réalisme difficilement distinguable de la réalité amplifie les risques de harcèlement et d’abus sexuels. Malheureusement, les systèmes scolaires et judiciaires semblent dépassés face à cette menace grandissante.
La nécessité de législations spécifiques
Aux États-Unis, la fabrication et la transmission de fausses images à caractère sexuel ne sont pas punies par une loi fédérale spécifique. Seuls quelques États disposent de législations pour lutter contre ce phénomène. Le président Joe Biden a appelé les législateurs à mettre en place des garde-fous pour empêcher notamment l’utilisation de l’IA générative à des fins illégales.
La responsabilité des créateurs et des plateformes en question
La question de la responsabilité des créateurs de deepfakes et des plateformes utilisées pour les partager se pose également. Identifier les créateurs de ces images est souvent difficile, mais les entreprises qui permettent la diffusion de ces contenus doivent également être interrogées sur leur rôle dans cette problématique.
Conclusion
Les deepfakes à caractère sexuel représentent une menace croissante pour les adolescentes américaines. Leur réalisme grâce à l’IA générative amplifie les risques de harcèlement et d’abus. Les systèmes scolaires et judiciaires sont dépassés face à ce phénomène. La mise en place de législations spécifiques et la responsabilité des créateurs et des plateformes sont des mesures nécessaires pour lutter contre ce problème.
