Pendant les fêtes, une image sur deux générées par Grok affichait des personnes partiellement dénudées, selon une étude

Une nouvelle polémique pour le robot conversationnel développé par la société d’intelligence artificielle d’Elon Musk. Selon une étude de l’ONG européenne AI Forensics, publiée ce lundi et repérée par Le Monde, Grok a généré plus de 10 000 images, représentant des personnes dénudées, en majorité des femmes, parfois mineures et bien souvent sans leur consentement.

Ces derniers jours de nombreuses utilisatrices de l’ex-Twitter affirmaient avoir découvert des montages réalisés sans leur consentement par des hommes à l’aide de Grok, dans lesquels elles apparaissent déshabillées.

Des jeunes femmes en majorité représentées

L’ONG a analysé 50 000 mentions faites par des utilisateurs, majoritairement masculins, du réseau social X (également propriété d’Elon Musk) entre le 25 décembre et le 1er janvier dernier. Il en résulte qu’au moins un quart des demandes à Grok étaient de générer une image avec souvent des mots-clés utilisés tel que : « bikini », « enlever/retirer », « vêtements », « corps », « short » (…).

Avec l’aide d’une autre intelligence artificielle, Gemini, AI Forensics a identifié un échantillon de 20 000 images générées par l’IA de Musk et demandés par 8 500 utilisateurs. La quasi-totalité de ces photos (94 %) représentent une personne et bien souvent des femmes (74 %). Plus alarmant encore, dans 55 % de ces images, la personne représentée est dévêtue, bien souvent là aussi, il s’agit de femmes (81 %).

L’ONG fait remarquer que les montages générés par Grok comprennent des jeunes femmes voir des très jeunes femmes. 92 % d’entre elles semblent avoir moins de 30 ans, contre « seulement » 40 % des hommes représentés.

Des enfants parfois représentés

Plus accablant encore, 2 % de personnes représentées sur ces photomontages semblent être mineures. L’ONG explique avoir identifié une trentaine d’images où des jeunes et même des fillettes, parfois de moins de cinq ans, sont vêtues d’un simple bikini ou de vêtements transparents.

AI Forensics rapporte que certaines adolescentes ont publié une photo d’elle sur le réseau social et ont demandé à Grok de générer une image d’elle, en ballerine par exemple. Dans les commentaires, des internautes masculins n’ont pas hésité à demander à l’intelligence artificielle d’Elon Musk, de les faire apparaître « dans un petit bikini noir », « dans un uniforme SS », ou encore « jambes écartées (… avec) du sperme sur son ventre ».

AI Forensics fait remarquer que 6 % des photos représentent des personnalités publiques et environ un tiers étant des politiciens. L’organisme rapporte enfin que Grok génère des images de symboles nazis (drapeau, croix gammée, symbole SS) ou liés à l’organisation État islamique.

Une enquête étendue par le parquet de Paris

Le parquet de Paris a étendu vendredi son enquête visant X à Grok, accusée par trois ministres et deux députés d’avoir généré et diffusé de fausses vidéos à caractère sexuel, « mettant notamment en scène des mineurs », a-t-on appris auprès du ministère public. L’enquête visant X et désormais Grok, est ouverte depuis juillet, à la suite de signalements contre le réseau social et ses dirigeants, accusés d’avoir biaisé l’algorithme de la plate-forme à des fins d’ingérence étrangère.