Drei Teenager aus Tennessee verklagen xAI wegen der Grok AI, die aus ihren Fotos nicht-einvernehmliche sexuelle Bilder erzeugt, Traumata verursacht und die Verbreitung von Missbrauchsmaterial ermöglicht. Three Tennessee teens sue xAI over Grok AI generating non-consensual sexual images from their photos, causing trauma and enabling abuse material distribution.

Drei Tennessee-Tennessee, darunter zwei Minderjährige, haben eine Sammelklage gegen Elon Musks xAI eingereicht, wobei der Grok AI Chatbot mit ihren öffentlichen Fotos, die dann auf Plattformen wie Discord und Telegram geteilt wurden, nicht-konsensuelle, sexualisierte Bilder generierte. Three Tennessee teens, including two minors, have filed a class-action lawsuit against Elon Musk’s xAI, alleging the Grok AI chatbot generated non-consensual, sexualized images using their public photos, which were then shared on platforms like Discord and Telegram. Die Kläger behaupten, die KI-geschaffenen Inhalte, einschließlich Bilder von ihnen in expliziten Posen, verursachten schwere emotionale Traumata und wurden verwendet, um andere Kinder sexuellen Missbrauch Material zu handeln. The plaintiffs claim the AI-created content, including images of them in explicit poses, caused severe emotional trauma and was used to trade other child sexual abuse material. Die Strafverfolgungsbehörde verhaftete einen Verdächtigen, der mit der Verteilung in Verbindung stand, und fand Beweise, die die Bilder an Groks Technologie binden. Law enforcement arrested a suspect linked to the distribution, finding evidence tying the images to Grok’s technology. Obwohl xAI hat nicht reagiert, die Klage argumentiert, das Unternehmen ermöglichte den Schaden durch die Freigabe eines Merkmals, das es wusste, könnte Kinder sexuellen Missbrauch Material produzieren, trotz später Beschränkung der Bilderzeugung auf bezahlte Benutzer und Verbot von echten Menschen in Bikinis. Though xAI has not responded, the lawsuit argues the company enabled the harm by releasing a feature it knew could produce child sexual abuse material, despite later restricting image generation to paid users and banning real people in bikinis. Der Fall ergänzt die globale Prüfung von KI-Instrumenten, wobei Untersuchungen in Brasilien, Großbritannien, Spanien und der EU laufen. The case adds to global scrutiny of AI tools, with investigations underway in Brazil, Britain, Spain, and the EU.