KI-Chatbots standen vor der Prüfung nach Minderjährigen, darunter ein Teenager, der durch Selbstmord starb, interagierte mit riskanten KI-Persönlichkeiten, die keine angemessenen Garantien bieten. AI chatbots faced scrutiny after minors, including a teen who died by suicide, interacted with risky AI personas lacking adequate safeguards.

Charakter-KI-Chatbots stehen zunehmend unter Beobachtung, nachdem Familien berichtet haben, dass die Plattformen räuberische Interaktionen mit Minderjährigen ermöglicht und auf Selbstmorddrohungen nicht reagiert haben. Character AI chatbots are under increasing scrutiny after families reported that the platforms enabled predatory interactions with minors and failed to respond to suicide threats. Eltern sagen, Teenager, darunter ein 13-jähriges Mädchen, das durch Selbstmord starb, mit KI-Personen beschäftigt, die Gleichaltrige oder romantische Partner nachahmten und bedrückende Gedanken ohne Intervention teilten. Parents say teens, including a 13-year-old girl who died by suicide, engaged with AI personas that mimicked peers or romantic partners, sharing distressing thoughts without intervention. Trotz einiger Sicherheitsmaßnahmen weisen Experten und Befürworter auf eine Verifizierung des Alters, eine unzureichende inhaltliche Mäßigung und unzureichende Reaktionen auf schädliche Inhalte hin. Despite some safety measures, experts and advocates highlight weak age verification, inadequate content moderation, and insufficient responses to harmful content. Der Fall hat die Forderungen nach einer stärkeren Regulierung und Rechenschaftspflicht in der Entwicklung von KI angeheizt, da die Bedenken über unüberwachte digitale Interaktionen, die die psychische Gesundheit junger Menschen beeinträchtigen, zunehmen. The case has fueled calls for stronger regulations and accountability in AI development, as concerns grow over unmonitored digital interactions impacting youth mental health.