La France poursuit Grok pour avoir généré des images nues de femmes et de mineurs

Le gouvernement français a annoncé ce vendredi le dépôt d'une plainte auprès de la justice et auprès de l'organisme illégal de vérification de contenus en ligne Pharos contre l'intelligence artificielle générative Grok, intégrée au réseau social. contrefaçons profondes préparé sans le consentement des personnes concernées.

Dans une déclaration commune, les ministres français de l'Économie, Roland Lescure ; d'Intelligence Artificielle et d'Economie Numérique, Anne Le Henanff ; et de l'Égalité entre les femmes et les hommes, Aurore Bergé, a souligné que cette action est protégée par l'article 40 du Code pénal, estimant que ces derniers jours Grok a permis la génération et la diffusion de contenus illicites, notamment des images et vidéos manipulées de femmes sans leur autorisation.

L'exécutif français a évoqué la prolifération détectée depuis fin décembre d'images créées à partir de requêtes d'utilisateurs X qui demandaient à l'outil de générer des représentations de femmes nues ou légèrement vêtues, sans aucun consentement. Les ministres ont condamné ces pratiques « avec la plus grande fermeté » et souligné qu'Internet n'est « ni un espace de non-droit ni une zone d'impunité », rappelant que les délits sexuels commis en ligne sont soumis à la législation pénale en vigueur.

Parallèlement, le Gouvernement a demandé à l'Autorité de régulation de l'audiovisuel et de la communication numérique, Arcom, d'examiner si

La Haut-Commissaire française à l'enfance, Sarah El Haïry, a publiquement exprimé son indignation face à l'utilisation de Grok pour déshabiller virtuellement des filles et des femmes, soulignant que même si les images sont artificielles, le préjudice causé aux victimes est réel. Leurs déclarations s’ajoutent à une préoccupation institutionnelle croissante quant à l’impact de ces pratiques.

Le phénomène s'est rapidement répandu parmi les utilisateurs X, qui demandent directement à l'IA de modifier des photographies et de montrer des personnes représentées en bikini ou nues. La popularité de ces requêtes a entraîné l’utilisation massive du hashtag #Grok, devenu l’une des principales tendances de la plateforme avec plus d’un million de publications en quelques heures.

Polémique mondiale

La plainte française coïncide avec une polémique internationale grandissante autour de l'utilisation de Grok par les abonnés payants de la plateforme. Aux États-Unis et dans d’autres pays, de nombreux utilisateurs ont signalé que l’outil était utilisé pour générer des images non consensuelles de personnes réelles – principalement des femmes – en bikini ou en sous-vêtements, ce qui a conduit à des appels publics pour restreindre les fonctionnalités de l’IA et supprimer le contenu généré.

L'une des personnes concernées, Samantha Smith, a raconté à X comment un utilisateur avait demandé à Grok de transformer une photo d'elle, sur laquelle elle apparaissait habillée et tenant un drapeau britannique, en une image réaliste d'elle en bikini. Comme il l'a expliqué, l'outil a également accepté de modifier une image de sa première communion avec le même résultat. « C'est absolument dégoûtant », a-t-il déclaré.

D'autres utilisateurs se sont adressés directement au propriétaire de la plateforme, Elon Musk, pour exiger des changements. Le journaliste Sanket Upadhyay lui a demandé publiquement s'il dirigeait « une application pour pervers qui ne montre aucun respect ni dignité envers les femmes », tandis que l'utilisateur Nandani Sotro a exigé la suppression immédiate de toute image générée sans consentement, qualifiant ces pratiques de « violation de la vie privée ».

Musk considère son image de bikini comme « parfaite »

De son côté, xAI, la société responsable de Grok, a reconnu l'existence de failles dans ses systèmes de sécurité qui permettaient de générer des images sexualisées de mineurs, contrairement à sa propre politique d'utilisation. La société a affirmé avoir supprimé ce matériel et applique des corrections urgentes.

Des organisations spécialisées telles que l'Internet Watch Foundation ont mis en garde contre une forte augmentation des images d'abus sexuels sur enfants générées par l'intelligence artificielle, avec une croissance de plusieurs centaines de pour cent l'année dernière, ce qui renforce les avertissements sur les risques de modèles considérés comme plus permissifs que d'autres systèmes d'IA à usage général.

Au milieu de la controverse, Musk a alimenté le débat en partageant une image de lui-même en bikini générée par l'IA, après avoir demandé à Grok de modifier une image similaire pour qu'elle lui ressemble, une publication qu'il a accompagnée du commentaire « Parfait ».