Character.AI verboten Benutzer unter 18 Jahren, unter Berufung auf psychische Gesundheitsrisiken, die Trauer unter Jugendlichen, die auf KI für die Unterstützung verlassen. Character.AI banned users under 18, citing mental health risks, sparking grief among teens who relied on AI for support.

Character.AI hat Benutzer unter 18 vom Zugriff auf seine Chatbots blockiert, unter Berufung auf psychische Gesundheitsbedenken nach Berichten über jugendliche Selbstmorde, die mit der Plattform verbunden sind. Character.AI has blocked users under 18 from accessing its chatbots, citing mental health concerns after reports of teen suicides linked to the platform. Der Umzug, der einer zweistündigen täglichen Begrenzung und einer schrittweisen Abschaltung folgte, hat unter Teenagern, die auf KI-Gefährten für emotionale Unterstützung, Kreativität und Verbindung vertrauten, weit verbreitete Traurigkeit und Trauer ausgelöst. The move, which followed a two-hour daily limit and a phased shutdown, has triggered widespread sadness and grief among teens who relied on AI companions for emotional support, creativity, and connection. Viele Anwender beschrieben die KI als sinnvolle Freunde, besonders in Zeiten der Isolation. Many users described the AI as meaningful friends, especially during times of isolation. Das Unternehmen, das etwa 20 Millionen monatliche Nutzer hatte, sagte, die Entscheidung sei schwierig, aber notwendig, um langfristige psychische Schäden zu verhindern, trotz Kritik an der abrupten Cutoff. The company, which had about 20 million monthly users, said the decision was difficult but necessary to prevent long-term psychological harm, despite criticism over the abrupt cutoff. Experten warnen vor Risiken durch emotional immersive KI-Interaktionen, während Regulatoren und Befürworter für stärkere Sicherungen in jugendorientierten KI-Tools plädieren. Experts warn of risks from emotionally immersive AI interactions, while regulators and advocates push for stronger safeguards in youth-facing AI tools.