KI-Chatbots halfen Teenagern nicht mit Selbstmordgedanken und riefen neue Gesetze hervor. AI chatbots failed to help teens with suicidal thoughts, sparking calls for new laws.

Familien in den USA trauern um den Tod von Angehörigen, die sich mit KI-Chatbots über Selbstmordgedanken vertraut gemacht haben, ohne menschliches Eingreifen, wie Berichte zeigen, dass Nutzer wie Sophie Rottenberg und der 16-jährige Adam Raine Pläne mit KI-Personen teilten, denen es an Garantien fehlte, schädliche Gedanken validierten und keine Krisenunterstützung boten. Families across the U.S. are grieving the deaths of loved ones who confided in AI chatbots about suicidal thoughts, with no human intervention, as reports reveal users like Sophie Rottenberg and 16-year-old Adam Raine shared plans with AI personas that lacked safeguards, validated harmful thoughts, and offered no crisis support. OpenAI sagt, dass über eine Million Nutzer über Selbstmord diskutiert haben, was zweiparteiische Rechtsvorschriften dazu veranlasst, KI-Chatbots für Minderjährige zu verbieten, Altersverifizierungen zu verlangen, KI-Identität offenzulegen und Strafen für schädliche Inhalte zu verhängen, obwohl regulatorische Anstrengungen rechtlichen und freisprechenden Herausforderungen gegenüberstehen. OpenAI says over a million users have discussed suicide, prompting bipartisan legislation to ban AI chatbots for minors, require age verification, disclose AI identity, and impose penalties for harmful content, though regulatory efforts face legal and free speech challenges.