Images dénudées créées par Grok : une députée britannique assigne xAI en justice

Une députée britannique, Jess Asato, a annoncé avoir saisi la Haute Cour de Londres contre xAI, la société d'intelligence artificielle d'Elon Musk, accusant son chatbot Grok d'avoir généré des images d'elle en bikini en janvier.

"En janvier dernier, des utilisateurs ont créé de fausses images à caractère sexuel me représentant à l'aide de Grok, le chatbot de xAI", a déclaré la députée travailliste mercredi sur les réseaux sociaux.

"La capacité de Grok à déshabiller des femmes et des enfants n'était pas le fruit du hasard. Des mesures de sécurité auraient pu être intégrées au chatbot, mais ses créateurs ont choisi de ne pas le faire. J'intente cette action devant la Haute Cour pour qu'ils soient tenus responsables de ces choix", a-t-elle aussi indiqué.

En janvier, Londres a ouvert une enquête sur les images à caractère sexuel générées par Grok. Le gouvernement avait aussi prohibé la création d'images intimes non consenties et annoncé l'interdiction pour les entreprises de fournir des outils conçus pour créer de telles images.

Lors d'un débat au Parlement à l'époque, Jess Asato, qui militait pour une interdiction de ces outils, avait déclaré en avoir elle-même été victime, en étant représentée en bikini par l'IA de X.

Une autre video fabriquée avec l'IA la montrait entourée d'hommes qui lui appliquent du chloroforme et lui soulèvent sa jupe "comme pour (la) violer", a-t-elle aussi témoigné jeudi dans une vidéo postée sur X.

Le Premier ministre britannique Keir Starmer a déclaré jeudi qu'il soutenait à "100%" l'action en justice de la députée.

Le cabinet d'avocat AWO qui défend Mme Asato a indiqué dans un communiqué que la plainte déposée porte sur "des violations de la loi sur la protection des données et l'utilisation abusive de ses informations personnelles".

"Au coeur de cette affaire, il y a le principe fondamental que les développeurs d'IA doivent répondre de la manière dont ils conçoivent leurs outils", a insisté son avocat, Ravi Naik, ajoutant qu'il s'agit d'"une des premières (affaires) à tester la responsabilité liée à la conception d'un système d'IA".

Contacté par l'AFP, xAI n'avait pas commenté dans l'immédiat.

Grok a suscité un tollé international en début d'année après avoir généré des images dénudées de femmes et de mineurs sans leur consentement, conduisant à l'ouverture d'enquêtes dans plusieurs pays.

Face à ces réactions, xAI avait restreint mi-janvier la génération d'images avec Grok à ses seuls abonnés payants et assuré bloquer la génération d'images sexualisées "au sein des juridictions où cela est illégal".

En mai, la Première ministre italienne Giorgia Meloni a partagé sur ses réseaux sociaux une publication Facebook contenant une fausse photo d'elle en lingerie générée par l'IA, afin de dénoncer les dangers de ces "deepfakes", montages hyperréalistes.