Drei Teenager aus Tennessee verklagen xAI und behaupten, dass seine Grok AI dabei geholfen hat, Deepfake-Pornos mit ihren Schulfotos zu erstellen. Three Tennessee teens sue xAI, claiming its Grok AI helped create deepfake porn using their school photos.

Drei Teenager aus Tennessee haben Elon Musk's xAI verklagt, indem sie behaupten, dass die KI-Tools des Unternehmens dazu verwendet wurden, sexuell explizite Deepfake-Bilder von ihnen als Minderjährigen zu erstellen und zu verbreiten, wobei echte Fotos von Schulveranstaltungen verwendet wurden. Three Tennessee teenagers have sued Elon Musk’s xAI, alleging the company’s AI tools were used to create and distribute sexually explicit deepfake images of them as minors using real photos from school events. Die Klage behauptet, dass eine im Dezember verhaftete Person die Bilder über eine lizenzierte App mit der Grok-Technologie von xAI erzeugt und gehandelt hat. Dabei waren mindestens 18 Mädchen das Ziel. The lawsuit claims an individual, arrested in December, generated and traded the images via a licensed app using xAI’s Grok technology, with at least 18 girls targeted. Die Kläger berichten von schweren emotionalen Schäden und suchen nach einer Sammelklage, wobei sie argumentieren, dass xAI trotz der Kenntnis der Risiken keine Schutzmaßnahmen ergriffen habe, im Gegensatz zu anderen KI-Unternehmen, die solche Inhalte blockieren. Plaintiffs report severe emotional harm and seek class-action status, arguing xAI failed to implement safeguards despite knowing the risks, unlike other AI firms that block such content. Während xAI erklärt, dass es Null-Toleranz für sexuelle Ausbeutung von Kindern hat und verletzendes Material entfernt, hat es sich nicht direkt zu der Klage geäußert. While xAI states it has zero tolerance for child sexual exploitation and removes violating material, it has not commented directly on the lawsuit.