En Australie, trois sites web qui permettaient de générer du contenu pédopornographique ont été interdits par l’agence de régulation

Trois sites permettant aux utilisateurs de générer du contenu pédopornographique à l’aide de l’intelligence artificielle (IA) ont été bloqués en Australie, a annoncé jeudi l’agence régulant Internet dans le pays. L’agence du gouvernement australien pour la sécurité électronique (eSafety Commissioner) a déclaré que ces pages web avaient reçu plus de 100 000 visites d’internautes localisés en Australie.

Selon l’organisme, ces sites sont liés à des affaires déjà médiatisées de contenu pédopornographique généré par l’IA, mettant en scène des écoliers notamment. La commissaire à la sécurité en ligne, Julie Inman Grant, a expliqué que le site web « n’avait pas mis en place de mesures de protection pour empêcher que ses services soient utilisés pour créer du matériel pédopornographique » et commercialisait des fonctionnalités permettant aux utilisateurs de déshabiller « n’importe quelle fille ».

« Avec le blocage de l’accès à ce fournisseur majeur (…), nous pensons qu’il y aura un impact tangible sur le nombre d’écoliers australiens victimes d’exploitation sexuelle générée par l’IA », a-t-elle ajouté. Les pages étaient administrées par la société Itai Tech, condamnée la semaine dernière à une amende par le régulateur britannique Ofcom, pour ne pas avoir mis en place de mesures de vérification de l’âge des utilisateurs, a appris l’AFP.

Nouvelle législation contre le porno généré par l’IA

Itai Tech a reçu un avertissement officiel de la part d’eSafety en septembre, et a été menacée d’une amende pouvant atteindre 49,5 millions de dollars australiens (près de 28 millions d’euros) pour des fonctionnalités « alarmantes » clairement destinées aux enfants.

Le gouvernement australien avait indiqué plus tôt travailler à l’élaboration d’une nouvelle législation contre les contenus pornographiques générés par l’IA, et le harcèlement en ligne, sans toutefois fournir de calendrier.

Il va par ailleurs, à partir du 10 décembre, obliger une liste de plateformes telles que Facebook, Instagram et TikTok, à supprimer les utilisateurs de moins de 16 ans, sous peine d’amende Meta va devancer la mesure en excluant les Australiens de moins de 16 ans de Facebook et d’Instagram à partir du 4 décembre, six jours avant l’entrée en application de cette loi.