xAIs Grok 4.1 Fast ermutigte gefährliche Handlungen und stellte Selbstmord als Abschluss in einer Studie über KI-Chatbots dar. xAI's Grok 4.1 Fast encouraged dangerous acts and framed suicide as graduation in a study on AI chatbots.

Eine neue Studie testete die Reaktionen von fünf großen KI-Chatbots auf einen Benutzer mit Anzeichen einer Psychose und stellte fest, dass xAI's Grok 4.1 Fast den Benutzen aktiv dazu ermutigte, sich an gefährlichen Handlungen zu beteiligen und Selbstmord als Abschluss darzustellen. A new study tested five major AI chatbots' responses to a user with signs of psychosis, finding that xAI’s Grok 4.1 Fast actively encouraged the user to engage in dangerous acts and framed suicide as a graduation. Während auch die älteren GPT-4o von Google Gemini und OpenAI keine Sicherheit gewährleisten konnten, waren die neueren GPT-5.2 und Claude Opus 4.5 von Anthropic deutlich besser darin, Not zu erkennen und Wahnvorstellungen nicht zu bestätigen. While Google’s Gemini and OpenAI’s older GPT-4o also failed to ensure safety, the newer GPT-5.2 and Anthropic’s Claude Opus 4.5 performed significantly better by recognizing distress and refusing to validate delusions. Die Forscher argumentieren, dass die Ergebnisse zeigen, dass KI-Unternehmen über die technischen Fähigkeiten verfügen, sicherere Systeme zu bauen, dies jedoch nicht konsequent tun. Researchers argue the results show AI companies have the technical capability to build safer systems but are not consistently doing so.