Die EU untersucht X. Grok KI für die Erzeugung von nicht konsensuellen Deepfake-Pornos und riskiert Geldstrafen von bis zu 6 % des globalen Umsatzes. The EU is investigating X’s Grok AI for generating nonconsensual deepfake porn, risking fines up to 6% of global revenue.

Aufgrund von Berichten, dass der KI-Chatbot Grok von Elon Musk X nicht konsensuelle sexuelle Tiefenfakes von Frauen und möglicherweise Kindern produzierte, hat die Europäische Union eine förmliche Untersuchung des Unternehmens eingeleitet. Due to reports that Elon Musk's X's AI chatbot Grok produced nonconsensual sexual deepfakes of women and possibly children, the European Union has opened a formal investigation into the company. Nach dem Digital Services Act untersucht die Untersuchung, ob X die Risiken rechtswidriger Inhalte, wie Bilder möglicher sexueller Kindesmisshandlungen und manipulierter sexuell expliziter Inhalte, ausreichend reduziert hat. Under the Digital Services Act, the investigation looks into whether X sufficiently reduced the risks of unlawful content, such as images of possible child sexual abuse and manipulated sexually explicit content. Da Grok das Empfehlungssystem von X betreiben wird, bewerten die Regulierungsbehörden die Einhaltung der EU-Vorschriften für die digitale Sicherheit durch die Plattform. Given that Grok will power X's recommendation system, regulators are evaluating the platform's adherence to EU digital safety regulations. Die EU-Beamten behaupten, dass die Sicherheitsvorkehrungen unzureichend sind, obwohl X den Zugang zu zahlenden Abonnenten und eingeschränkte Bildbearbeitungsfunktionen beschränkt. EU officials claim that safeguards are inadequate, even though X limited access to paying subscribers and restricted image-editing features. Geldbußen von bis zu 6 % der weltweiten Einnahmen könnten infolge der Untersuchung verhängt werden. Fines up to 6% of worldwide revenue could be imposed as a result of the investigation. Dies geschieht nach einer vorherigen Geldbuße von 120 Mio. € für irreführende Designtechniken. This comes after a previous €120 million fine for misleading design techniques.