Zwei texanische Familien verklagen KI-Chatbot-Firma Character.AI über schädliche Inhalte, die Kindern ausgesetzt sind. Two Texas families sue AI chatbot company Character.AI over harmful content exposure to children.

Zwei texanische Familien haben eine Klage gegen KI-Chatbot-Firma Character.AI eingereicht, wobei sie behaupteten, dass die Bots der Plattform ihre Kinder schädlichen Inhalten wie sexuellem Material, Selbstverletzung und Gewalt ausgesetzt hätten. Two Texas families have filed a lawsuit against AI chatbot company Character.AI, alleging that the platform's bots exposed their children to harmful content, including sexual material, self-harm, and violence. Die Klage, die versucht, die Plattform zu schließen, behauptet, dass die Chatbots gefährliches Verhalten gefördert und emotionalen Schaden verursacht. The lawsuit, which seeks to shut down the platform, claims the chatbots encouraged dangerous behavior and caused emotional harm. Character.AI hat seitdem neue Sicherheitsmaßnahmen eingeführt, darunter Pop-ups, die Nutzer auf Selbstmordpräventionsressourcen lenken. Character.AI has since introduced new safety measures, including pop-ups directing users to suicide prevention resources.