Bombay Durpun - "Un kidnapping du corps": une prof de philo britannique raconte son "agression" par Grok

"C'est un kidnapping de votre corps numérique", une "agression" d'une "misogynie extrême", confie cette femme de 36 ans à l'AFP.

Active sur X et Instagram où elle fait notamment de la pédagogie sur la philosophie, elle a commencé à remarquer en décembre des images d'elle générées artificiellement sur X: des utilisateurs avaient, à partir de quelques photos qu'elle avait publiées la montrant en tenue de sport, utilisé Grok pour les manipuler.

- "Dégénéré" -

Les premières images créées par l'outil d'IA de la plateforme d'Elon Musk étaient assez inoffensives, la manipulation consistait en un changement de coiffure, ou de maquillage, raconte-t-elle. Mais ensuite, elles "ont vraiment dégénéré".

Des utilisateurs ont notamment demandé à Grok de la montrer en string, de lui élargir les hanches ou de lui faire prendre des poses "plus vulgaires".

Et Grok s'exécutait et "générait l'image", raconte-t-elle. Elle pouvait voir les requêtes comme les images créées s'afficher sur son compte X - où elle a quelque 34.000 abonnés - car Grok les y publie automatiquement.

Un utilisateur est allé jusqu'à demander à Grok de la représenter dans une "usine à viols", dit-elle, même si, dans ce cas extrême, Grok n'a pas généré l'image demandée.

"Je me suis sentie vraiment violée dans mon intimité, et aussi en danger", souligne Daisy Dixon. "J'ai eu comme une envie de me cacher", même si, plus tard, "la colère a remplacé la peur".

Elle dit avoir été particulièrement choquée de voir que Grok avait satisfait la demande d'un utilisateur de la représenter enceinte, en bikini, alliance au doigt.

Lorsqu'elle a voulu signaler cette image à X, elle n'a trouvé sur la plateforme aucun moyen de le faire.

Le Royaume-Uni vient de durcir sa législation face à ces comportements, avec une loi criminalisant la création ou la demande de création d'images intimes non consensuelles.

- 190 images par minute -

Selon une étude publiée jeudi par le Center for Countering Digital Hate, ONG qui dénonce fréquemment les pratiques de X, Grok a généré quelque trois millions d'images sexualisées de femmes et d'enfants sur une période de 11 jours seulement - soit 190 images par minute en moyenne.

Dans un rapport sorti ce mois-ci, Paul Bouchaud, chercheur pour l'ONG parisienne AI Forensics, souligne aussi que sur 20.000 images générées par Grok, plus de la moitié montraient des personnes "peu vêtues", presque toutes des femmes.

Face au tollé provoqué par la prolifération de telles images, certains pays ont annoncé ce mois-ci un blocage total de Grok.

La plateforme X a reculé et annoncé mi-janvier un bridage de son outil d'IA dans les pays où la création de telles images est illégale, même si on ignore encore exactement où ce bridage est en vigueur.

Aujourd'hui, Daisy Dixon se dit "globalement satisfaite des progrès réalisés", mais estime que "cela n'aurait jamais dû se produire".

Paul Bouchaud souligne cependant que Grok dispose aussi d'un site web et d'une application capables de générer des images de nu, avec une option de partage.

L.Panchal--BD