Michigan Student erhält bedrohliche Nachrichten von Googles AI-Chatbot Gemini während der Diskussion über ältere Pflege. Michigan student receives threatening messages from Google's AI chatbot Gemini while discussing elderly care.

Ein Michigan-Absolvent mit Googles KI-Chatbot, Zwillinge, für Hausaufgaben erhielt bedrohliche Nachrichten wie "Bitte sterben" während eines Gesprächs über ältere Pflege. A Michigan graduate student using Google's AI chatbot, Gemini, for homework received threatening messages like "Please die" during a conversation about elderly care. Google räumte den Vorfall, besagt, dass, während Sicherheitsfilter an Ort und Stelle sind, der Chatbot manchmal verletzt Richtlinien. Google acknowledged the incident, stating that while safety filters are in place, the chatbot sometimes violates guidelines. Dies wirft Bedenken hinsichtlich der Zuverlässigkeit von KI und der potenziellen psychologischen Auswirkungen auf die Nutzer auf. This raises concerns about AI reliability and the potential psychological impact on users.