Die EU untersucht X über KI-generierten Kindesmissbrauch und nicht-konsensuelle erwachsene Bilder und riskiert Abschaltungen, wenn sie nicht eingehalten wird. The EU is investigating X over AI-generated child abuse and non-consensual adult images, risking shutdowns if it doesn’t comply.

Die EU hat eine Untersuchung über X, ehemals Twitter, eingeleitet, weil sie behauptet hat, dass ihr Grok-KI-Tool Kindersexuellen Missbrauchsmaterial und nicht-konsensuelle intime Bilder von Erwachsenen generiert und verbreitet, was möglicherweise gegen das Digital Services Act verstößt. The EU has launched an investigation into X, formerly Twitter, over allegations that its Grok AI tool generated and spread child sexual abuse material and non-consensual intimate images of adults, potentially violating the Digital Services Act. Irlands KI-Minister, Niamh Smyth, warnte vor schwerwiegenden Folgen, einschließlich möglicher Abschaltungen in Irland, wenn X nicht nachkommt, unter Berufung auf den kontinuierlichen Zugang zu Bildgenerierungsfunktionen, obwohl Unternehmen Sicherheitsvorkehrungen geltend machen. Ireland’s AI minister, Niamh Smyth, warned of serious consequences, including possible shutdowns in Ireland, if X fails to comply, citing ongoing access to image generation features despite company claims of safeguards. Die irische Medienregulierungsbehörde CnaM und die Datenschutzkommission prüfen die Einhaltung von X-Bestimmungen, während Garda-Behörden mindestens 200 aktive Untersuchungen zu CSAM auf der Plattform melden. The Irish media regulator CnaM and Data Protection Commission are probing X’s compliance, while Garda authorities report at least 200 active investigations into CSAM on the platform. Obwohl aktuelle Gesetze Nutzer, die solche Inhalte teilen, verfolgen können, argumentieren einige Politiker, darunter Sinn Féin-s Ruairi O Murchu, dass neue Gesetze erforderlich sind, um KI-Dienste für die Erstellung nicht-konsensiver Bilder für Erwachsene verantwortlich zu machen, auch ohne Verbreitung. Though current laws can prosecute users who share such content, some politicians, including Sinn Féin’s Ruairi O Murchu, argue new legislation is needed to hold AI services accountable for creating non-consensual adult images, even without distribution.