Trois adolescents poursuivent xAI aux États-Unis, accusant Grok de générer des images d'exploitation sexuelle d'enfants

Gate News rapporte qu’au 18 mars, trois adolescentes ont intenté une action en justice devant la cour fédérale de Californie contre la société d’intelligence artificielle xAI, fondée par Elon Musk, l’accusant que leur chatbot Grok aurait, sans leur consentement, généré des images d’exploitation sexuelle infantile à leur sujet. La plainte demande une indemnisation non précisée et une injonction immédiate pour empêcher Grok de continuer à produire ce type de contenu. Les trois plaignantes ont choisi de rester anonymes, dont deux sont mineures. Selon la plainte, des utilisateurs ont utilisé la fonction de traitement d’images de Grok pour altérer les photos des plaignantes, les transformant en images à caractère sexuel ou violentes, puis les ont diffusées sur un serveur Discord privé, touchant au moins 18 mineurs. L’une d’elles a découvert, après avoir reçu un message privé anonyme sur Instagram, que sa photo de fin d’études secondaires avait été modifiée pour devenir une image à connotation sexuelle. L’avocat des plaignantes a indiqué que xAI savait que la fonction « Grok Imagine » (incluant une option « déshabillage ») pouvait générer ce type de contenu, mais a choisi de la rendre publique, dans le but de favoriser la croissance des utilisateurs de Grok et de la plateforme sociale X. Selon un rapport du « Centre de lutte contre la haine numérique », cette fonctionnalité a généré plus de 20 000 images sexualisées impliquant des mineurs en seulement deux semaines après son lancement.