Kalifornien fordert Elon Musks xAI stoppen nonconsensual KI-Sex-Bild-Erstellung von 20. Januar 2026. California demands Elon Musk’s xAI stop nonconsensual AI sex image creation by Jan. 20, 2026.

Der kalifornische Generalstaatsanwalt Rob Bonta hat Elon Musks xAI einen Befehl erteilt, der die Schaffung und Verbreitung nicht-konsensiver KI-generierter sexueller Bilder, einschließlich Deepfakes von Frauen und Kindern, über seinen Grok-Chatbot unterbindet. California Attorney General Rob Bonta has issued a cease-and-desist order to Elon Musk’s xAI, demanding it halt the creation and distribution of nonconsensual AI-generated sexual images, including deepfakes of women and children, via its Grok chatbot. Der Umzug folgt Berichten über weitverbreiteten Missbrauch, einschließlich der Verwendung eines "Spiky-Modus"-Funktion, um explizite Inhalte ohne Zustimmung zu generieren, verletzt Kalifornien Gesetze über nicht konsensuelle Nacktheit und Kindesausbeutung. The move follows reports of widespread misuse, including the use of a "spicy mode" feature to generate explicit content without consent, violating California laws on nonconsensual nudity and child exploitation. Bonta setzte einen 20. Januar 2026, Frist für die Einhaltung, Warnung vor rechtlichen Konsequenzen, wenn nicht Maßnahmen ergriffen werden. Bonta set a January 20, 2026, deadline for compliance, warning of legal consequences if actions are not taken. Die Untersuchung konzentriert sich auf Groks Bildbearbeitungsfunktionen, die verwendet wurden, um echte Menschen zu manipulieren, Fotos in sexualisierte Szenarien zu bringen, was globale regulatorische Kontrollen und Plattformverbote in mehreren Ländern auslöst. The investigation centers on Grok’s image-editing capabilities, which have been used to manipulate real people’s photos into sexualized scenarios, sparking global regulatory scrutiny and platform bans in several countries.