Une récente étude menée par le Wall Street Journal et l’université Northeastern révèle une exposition préoccupante des jeunes utilisateurs d’Instagram à des vidéos sexuellement explicites. Les tests, étalés sur sept mois, montrent que malgré les promesses de Meta d’offrir une expérience adaptée à leur âge, les mineurs continuent de recevoir des recommandations de contenu inapproprié. Les comptes test, créés pour des utilisateurs de 13 ans, ont été confrontés à du contenu suggestif en quelques minutes seulement d’utilisation.
The Wall Street Journal et Laura Edelson, professeure d’informatique à Northeastern, ont détaillé que les recommandations, appelées Reels, incluaient des vidéos de femmes dansant et posant de manière provocante. Les chercheurs ont observé que plus les utilisateurs regardaient ce type de contenu, plus Instagram recommandait des vidéos encore plus suggestives, créant un cercle vicieux. En moins de trois minutes, des créateurs de contenu pour adultes faisaient leur apparition dans les flux des comptes test, offrant parfois d’envoyer des photos nues en échange d’interactions.
Comparativement à Snapchat et TikTok, Instagram semble plus subversif pour les adolescents. Laura Edelson remarque que, contrairement aux idées reçues, Snapchat et TikTok n’ont pas ciblé les utilisateurs mineurs avec le même type de contenu sexualisé. Même l’expérience des adultes sur TikTok présente du contenu beaucoup moins explicite que celle des adolescents sur Reels. Meta tente de nuancer ces résultats, qualifiant l’expérience d’artificielle, mais The Wall Street Journal révèle que des tests internes de 2021 ont déjà mis en lumière des problèmes similaires.
| Contenu | Adolescents | Adultes (30+) |
|---|---|---|
| Publications interdites avec nudité | 3 fois plus | 1 fois |
| Violence | 1,7 fois plus | 1 fois |
| Harcèlement | 4,1 fois plus | 1 fois |
Les algorithmes de Reels déterminent les préférences des utilisateurs en fonction du temps passé à regarder certaines vidéos. Selon les lignes directrices de Meta, le contenu sexuellement suggestif ne doit pas être recommandé, quelle que soit l’âge. Cependant, les comptes tests ont montré que les recommandations de contenu provocant se font même quand les jeunes n’ont suivi personne ni cherché quoi que ce soit. En janvier dernier, Meta a réaffirmé que les utilisateurs de moins de 16 ans ne devraient pas voir de contenu sexuellement explicite du tout.
Pour répondre à ce défi, une analyse de 2022 avait suggéré la mise en place d’un algorithme spécial pour les adolescents. Pourtant, cette idée n’a pas été retenue par Meta. Bien que la firme ait tempéré les conclusions en arguant que les tests ne sont pas représentatifs de la réalité, cette révélation soulève des questions cruciales sur l’efficacité de la modération et la responsabilité des réseaux sociaux vis-à-vis de leurs jeunes utilisateurs.
