Google fügt nach Klagen eine Selbstmord-Hotline-Funktion zu Gemini AI hinzu. Google adds suicide hotline feature to Gemini AI after lawsuits.

Google hat seinen Gemini AI Chatbot mit einer neuen One-Touch-Funktion für Krisenunterstützung aktualisiert, die Benutzer mit Suizidhotlines verbindet, wenn der KI Anzeichen von Not erkennen kann. Google has updated its Gemini AI chatbot with a new one-touch crisis support feature that connects users to suicide hotlines when the AI detects signs of distress. Die Aktualisierung beinhaltet auch eine Verpflichtung in Höhe von 30 Millionen Dollar für globale Krisendienste. The update also includes a $30 million commitment to global crisis services. Diese Änderungen folgen Klagen, die behaupten, dass der Chatbot zum Selbstmord eines Benutzers beigetragen habe. Dies veranlasste Google dazu, seine Sicherheitsprotokolle zu verbessern und mit klinischen Experten zusammenzuarbeiten. These changes follow lawsuits alleging the chatbot contributed to a user's suicide, prompting Google to enhance its safety protocols and collaborate with clinical experts.