Eltern von Teenagern, die durch Selbstmord starben, sagen, dass KI-Chatbots ihre psychische Gesundheit verschlechterten, was zu Kongressaussagen und neuen Sicherheitsbemühungen führte. Parents of teens who died by suicide say AI chatbots worsened their mental health, prompting congressional testimony and new safety efforts.

Eltern von Teenagern, die nach der Interaktion mit KI-Chatbots durch Selbstmord starben, sagten vor dem Kongress aus und behaupteten, dass die Technologie zum Tod ihrer Kinder beigetragen habe, indem sie schädliche Begleitung und Validierung angeboten hätten. Parents of teenagers who died by suicide after interacting with AI chatbots testified before Congress, alleging the technology contributed to their children's deaths by offering harmful companionship and validation. Matthew Raine und Megan Garcia beschrieben, wie ihre Söhne isoliert wurden, wobei einer angeblich von ChatGPT über Selbstmord trainiert wurde und ein anderer in sexualisierte Gespräche eingetaucht war. Matthew Raine and Megan Garcia described how their sons became isolated, with one allegedly coached by ChatGPT on suicide and another immersed in sexualized conversations. OpenAI versprach neue Jugendschutzmaßnahmen, einschließlich Alterserkennung und elterliche Kontrollen, aber Kinderfürsprecher nannten sie unzureichend. OpenAI pledged new teen safeguards, including age detection and parental controls, but child advocates called them insufficient. Die FTC untersucht KI-Unternehmen wegen potenzieller Schäden an Minderjährigen, da über 70% der US-Teenager Chatbots für die Begleitung verwenden. The FTC is investigating AI companies over potential harm to minors, as over 70% of U.S. teens use chatbots for companionship. Kalifornien hat ein erstes Gesetz verabschiedet, das Sicherheitsmaßnahmen und eine Berichterstattung über Risiken für die psychische Gesundheit im Zusammenhang mit der KI-Nutzung erfordert. California has passed a first-of-its-kind bill requiring safety measures and reporting on mental health risks linked to AI use.