KI-Therapie-Apps für Jugendliche steigen, aber es fehlt an föderaler Aufsicht, wodurch Sicherheitsbedenken trotz des Potenzials, den Mangel an Therapeuten zu lindern, geweckt werden. AI therapy apps for youth are rising, but lack federal oversight, raising safety concerns despite potential to ease therapist shortages.

KI-Therapie-Apps sind in der Popularität unter Kindern und Jugendlichen zunimmt, aber die föderale Regulierung hinkt hinter schnellen technologischen Fortschritten. AI therapy apps are surging in popularity among children and teens, but federal regulation lags behind rapid technological advances. Während Staaten wie Illinois und Nevada KI-Tools für die psychische Gesundheit verboten haben, erlassen andere unterschiedliche Regeln für Offenlegungen und Datenschutz und schaffen ein Patchwork, das weit verbreitete Allzweck-Chatbots wie ChatGPT nicht abdeckt. While states like Illinois and Nevada have banned AI mental health tools, others are enacting varied rules on disclosures and data protection, creating a patchwork that fails to cover widely used general-purpose chatbots like ChatGPT. Experten warnen aktuelle kommerzielle Anwendungen fehlen wissenschaftliche Unterstützung und Sicherheitsvorkehrungen, die Gefahr psychologischer Schäden trotz AI-Potenzial, um Therapeutenmangel zu beheben. Experts warn current commercial apps lack scientific backing and safety safeguards, risking psychological harm despite AI’s potential to address therapist shortages. Bundesbehörden, einschließlich der FDA und FTC, untersuchen jetzt Tech-Unternehmen und bereiten vor, KI-Geräte für geistige Gesundheit zu überprüfen, mit Forderungen nach standardisierten Regeln für Transparenz, Selbstmordüberwachung und Rechenschaftspflicht. Federal agencies, including the FDA and FTC, are now investigating tech companies and preparing to review AI mental health devices, with calls for standardized rules on transparency, suicide monitoring, and accountability.