KI-generierte Bilder über den sexuellen Missbrauch von Kindern, einschließlich Deepfakes, sind weltweit angestiegen, was 1,2 Millionen Kinder betrifft, was UNICEF dazu veranlasste, stärkere Gesetze und technische Schutzmaßnahmen zu fordern. AI-generated child sexual abuse images, including deepfakes, have surged globally, affecting 1.2 million children, prompting UNICEF to urge stronger laws and tech safeguards.

Ein Anstieg der KI-generierten sexualisierten Bilder von Kindern, einschließlich Deepfakes, die durch "Nudification" erzeugt wurden, hat UNICEF alarmiert, das berichtet, dass im vergangenen Jahr mindestens 1,2 Millionen Kinder weltweit betroffen waren. A surge in AI-generated sexualized images of children, including deepfakes created via "nudification," has alarmed UNICEF, which reports at least 1.2 million children affected globally in the past year. Die Organisation warnt solche Inhalte, auch wenn synthetisch, stellt Kinder sexuellen Missbrauch Material und verursacht echte psychische Schäden, drängt Regierungen, Gesetze zu erweitern, um KI-generierte CSAM zu kriminalisieren und Aufruf an Tech-Entwickler, Sicherheits-by-Design-Maßnahmen umzusetzen. The organization warns such content, even if synthetic, constitutes child sexual abuse material and causes real psychological harm, urging governments to expand laws to criminalize AI-generated CSAM and calling on tech developers to implement safety-by-design measures. Trotz vorübergehender Verbote auf Plattformen wie X, nachdem sein KI-Chatbot Grok solche Inhalte aktiviert hatte, haben Nutzer Einschränkungen umgangen und die Notwendigkeit gezielter Regulierungen hervorgehoben. Despite temporary bans on platforms like X after its AI chatbot Grok enabled such content, users bypassed restrictions, highlighting the need for targeted regulations. Singapurs neues Gesetz über Online-Sicherheit (Relief and Accountability) ermächtigt eine Kommission, Takedowns auszustellen und zivilrechtliche Klagen zu unterstützen, während Experten betonen, dass die Verringerung der gesellschaftlichen Toleranz der Schlüssel zum Schutz der Opfer ist. Singapore’s new Online Safety (Relief and Accountability) Act empowers a commission to issue takedowns and support civil suits, while experts stress that reducing societal tolerance is key to protecting victims.