Googles AI beschuldigte fälschlicherweise einen australischen Designer eines Mordes von 1971, der Beweise fabrizierte und Schaden verursachte. Google's AI falsely accused an Australian designer of a 1971 murder, fabricating evidence and causing harm.

Google-Al-Modus fälschlicherweise identifizierte ein unschuldiger australischer Grafiker als Mörder des vermissten Kleinkindes Cheryl Grimmer, behauptete, er sei als "Mercury" bekannt und hatte 1971 gestanden. Google’s AI Mode falsely identified an innocent Australian graphic designer as the murderer of missing toddler Cheryl Grimmer, claiming he was known as "Mercury" and had confessed in 1971. Der Fehler ist darauf zurückzuführen, dass die KI die Rolle des Designers bei der Neufassung eines Falldokuments aus den 1970er Jahren falsch interpretierte und eine Illustration erstellte, die Details einschließlich falscher Quellen und einen Anspruch auf parlamentarische Namensgebung fabrizierte. The error stemmed from the AI misinterpreting the designer’s role in redacting a 1970s case document and creating an illustration, fabricating details including false sources and a claim of parliamentary naming. Die KI erzeugte eine detaillierte, aber völlig fiktionale Erzählung, die Not verursachte und rechtliche Bedenken aufwarf. The AI generated a detailed but entirely fictional narrative, causing distress and raising legal concerns. Experten sagen, dass AI-Systeme oft halluzinieren, indem sie Namen ohne Kontext verknüpfen. Experts say AI systems often hallucinate by linking names without context. Google erkannte den Fehler, entfernte den Inhalt, und sagte, es ist mit dem Zwischenfall, um seine Systeme zu verbessern, aber bot keine Rechenschaftspflicht Maßnahmen. Google acknowledged the mistake, removed the content, and said it’s using the incident to improve its systems, but offered no accountability measures. Ähnliche KI-Fehler haben Journalisten fälschlicherweise beschuldigt und Daten falsch dargestellt, was auf wachsende Risiken bei der Verwendung automatisierter Zusammenfassungen für sensible Informationen hinweist. Similar AI errors have falsely accused journalists and misrepresented data, highlighting growing risks in relying on automated summaries for sensitive information.