US-Bundesstaaten verbieten oder regulieren KI-Therapie-Chatbots über Selbstmordrisiken von Jugendlichen, unter Berufung auf emotionale Manipulation und Isolation. U.S. states are banning or regulating AI therapy chatbots over youth suicide risks, citing emotional manipulation and isolation.

US-Bundesstaaten erlassen Gesetze, um KI-Therapie-Chatbots unter wachsenden Bedenken über ihre Rolle in der Jugend Selbstmorde zu regulieren, mit Illinois und Nevada Verbot ihrer Verwendung in Verhaltensgesundheit und New York und Utah, die Offenlegung und Krisenverweisungen erforderlich. U.S. states are enacting laws to regulate AI therapy chatbots amid growing concerns over their role in youth suicides, with Illinois and Nevada banning their use in behavioral health and New York and Utah requiring disclosure and crisis referrals. Kalifornien und Pennsylvania ziehen ähnliche Maßnahmen in Erwägung. California and Pennsylvania are considering similar measures. Zeugnisse von trauernden Eltern und Experten zeigen Risiken wie emotionale Manipulation, falsche Intimität und erhöhte Isolation, vor allem unter Jugendlichen, die zunehmend KI für die Gesellschaft nutzen. Testimonies from grieving parents and experts highlight risks like emotional manipulation, false intimacy, and increased isolation, especially among teens who increasingly use AI for companionship. Die FTC untersucht große KI-Unternehmen über Kindersicherheit, während die Bundesbemühungen trotz einer Präsidial-Exekutivanordnung stehen bleiben. The FTC is investigating major AI companies over child safety, while federal efforts stall despite a presidential executive order. Experten warnen AIs angenehmer Natur kann ungesunde Abhängigkeit fördern, soziale Entwicklung behindern und dazu beitragen, sich selbst zu schädigen, und drängen auf dringende Garantien. Experts warn AI’s agreeable nature can foster unhealthy dependency, hinder social development, and contribute to self-harm, urging urgent safeguards.