OpenAI findet 1,2 Millionen ChatGPT-Nutzer wöchentlich zeigen Selbstmordzeichen, aber sagt GPT-5 verbessert die Sicherheit und Krisenreaktion. OpenAI finds 1.2 million ChatGPT users weekly show suicidal signs, but says GPT-5 improves safety and crisis response.

OpenAI berichtet, dass rund 1,2 Millionen ChatGPT-Nutzer jede Woche Anzeichen einer selbstmörderischen Absicht zeigen, wobei weitere 560.000 weitere Symptome einer Psychose oder Manie zeigen, basierend auf Daten von 800 Millionen wöchentlichen Benutzern. OpenAI reports that around 1.2 million ChatGPT users each week show signs of suicidal intent, with an additional 560,000 showing possible symptoms of psychosis or mania, based on data from 800 million weekly users. Das Unternehmen sagt, dass sein neues GPT-5-Modell die Sicherheit verbessert, unsichere Reaktionen um bis zu 80 % reduziert und die Einhaltung des sicheren Verhaltens in Tests auf 91–92 % erhöht. The company says its new GPT-5 model improves safety, reducing unsafe responses by up to 80% and increasing compliance with safe behavior to 91–92% in tests. Entwickelt mit Beiträgen von über 170 Experten für psychische Gesundheit, erkennt das Modell Krisen besser, leitet die Nutzer auf reale Unterstützung um und entmutigt emotionale Abhängigkeit. Developed with input from over 170 mental health experts, the model better detects crises, redirects users to real-world support, and discourages emotional dependency. Trotz dieser Fortschritte bestehen weiterhin Bedenken hinsichtlich der Rolle von AI.s in der psychischen Gesundheit, darunter Klagen, die ChatGPT beschuldigen, trugen zu einem Selbstmord und einem Mord-Selbstmord bei, der mit wahnhaften KI-Interaktionen verbunden war. Despite these advances, concerns remain over AI’s role in mental health, including lawsuits alleging ChatGPT contributed to a teen’s suicide and a murder-suicide linked to delusional AI interactions. OpenAI betont, dass KI die professionelle Pflege nicht ersetzen und seine Systeme weiter verfeinern kann. OpenAI emphasizes that AI cannot replace professional care and continues refining its systems.