il y a 2 day
2
Le régulateur britannique de la sécurité sur internet a annoncé lundi l’ouverture d’une « enquête formelle » visant le réseau social X « concernant des images à caractère sexuel diffusées » par son assistant d’intelligence artificielle Grok.
« Des signalements très inquiétants font état de l’utilisation » de Grok AI sur X « pour créer et partager des images de personnes dénudées - pouvant constituer une atteinte à la pudeur ou de la pornographie - ainsi que des images à caractère sexuel d’enfants pouvant constituer du matériel pédopornographique », indique l’Ofcom dans son communiqué.
De telles images, réalisées en demandant à Grok de dénuder des personnes réelles à partir de photos ou vidéos, ont suscité une vague de protestations à travers le monde. La Malaisie a suspendu dimanche, après l’Indonésie samedi, l’accès à cet assistant.
« Un service premium »
Sous le feu des critiques, Grok a désactivé vendredi sa fonctionnalité de création d’images pour les utilisateurs non payants. « Vous pouvez vous abonner pour débloquer ces fonctionnalités », avait précisé la plateforme.
Cette désactivation limitée avait suscité l’indignation du Royaume-Uni. Cette mesure « transforme simplement une fonctionnalité qui permet la création d’images illégales en un service premium », et constitue « une insulte aux victimes de misogynie et de violences sexuelles », avait dénoncé un porte-parole du Premier ministre britannique Keir Starmer.
L’Ofcom précise lundi avoir demandé des explications à X la semaine dernière. S’il ne détaille pas la teneur de leurs échanges, le régulateur indique que « l’entreprise a répondu dans les délais impartis ».
Son enquête devra « déterminer si X a manqué à ses obligations légales », qui lui imposent notamment d’« évaluer le risque que des personnes au Royaume-Uni consultent des contenus illégaux », de « supprimer rapidement les contenus illégaux » ou encore d’« évaluer les risques que leur service représente pour les enfants britanniques ».
Le régulateur a le pouvoir d’imposer des amendes allant jusqu’à 10 % du chiffre d’affaires mondial de l’entreprise visée et peut saisir la justice pour demander un blocage du site au Royaume-Uni.
« Certaines des choses que j’ai vues et entendues » au sujet des images générées par Grok « sont répugnantes et manifestement illégales et j’attends que des mesures soient prises », avait affirmé un peu plus tôt à la presse britannique le ministre des Entreprises Peter Kyle, tout en précisant qu’il appartenait à l’Ofcom de faire appliquer la loi. Contacté par l’AFP, X n’avait pas répondu dans l’immédiat.
Une enquête étendue par le parquet de Paris
En France, le parquet de Paris a étendu début janvier son enquête visant X à Grok, accusée par trois ministres et deux députés d’avoir généré et diffusé de fausses vidéos à caractère sexuel, « mettant notamment en scène des mineurs », a appris Le Parisien auprès du ministère public. L’enquête visant X et désormais Grok, est ouverte depuis juillet, à la suite de signalements contre le réseau social et ses dirigeants, accusés d’avoir biaisé l’algorithme de la plate-forme à des fins d’ingérence étrangère.
L’Arcom, l’autorité française de régulation de la communication audiovisuelle et du numérique, a aussi été saisie, « au titre de possibles manquements de X à ses obligations découlant du Digital Services Act », le règlement européen sur les services numériques.
De plus, la Commission européenne a annoncé jeudi 8 janvier avoir imposé à X une mesure conservatoire, à la suite du scandale. L’exécutif européen a pris une « ordonnance de conservation », une mesure juridique qui impose à X « de conserver tous ses documents internes relatifs à Grok, et ce jusqu’à la fin 2026 », a précisé à la presse un porte-parole de la Commission.
English (US) ·