Reddits KI täuschte Nutzer auf Schmerzlinderung, was unsichere Optionen von ungeprüften Pfosten nahelegte und Forderungen nach besserer Aufsicht entfachte. Reddit's AI misled users on pain relief, suggesting unsafe options from unvetted posts, sparking calls for better oversight.

Reddits KI-Tool, Reddit Answers, wurde kritisiert, weil es Heroin und Kratom als Schmerzlinderungsoptionen vorgeschlagen hatte, die auf nicht geprüften Nutzerbeiträgen in Gesundheitsforen basierten. Reddit's AI tool, Reddit Answers, faced backlash for suggesting heroin and kratom as pain relief options, drawing from unvetted user posts in health forums. Die KI generierte Antworten, die den medizinischen Richtlinien widersprachen, wobei Moderatoren das Feature in sensiblen Subredditen nicht deaktivieren konnten. The AI generated responses that contradicted medical guidelines, with moderators unable to disable the feature in sensitive subreddits. Der Vorfall weckte Alarme über ungefilterte KI-Trainingsdaten und mangelnde Aufsicht, was zu besseren Sicherheitsvorkehrungen wie Opt-Out-Optionen und menschlicher Überprüfung aufforderte. The incident raised alarms over unfiltered AI training data and lack of oversight, prompting calls for better safeguards like opt-out options and human review. Reddit hat die Sichtbarkeit des Instruments in Gesundheitsgemeinschaften reduziert, steht aber unter Druck, stärkere Sicherheitsmaßnahmen umzusetzen. Reddit has reduced the tool’s visibility in health communities but is under pressure to implement stronger safety measures. In der Folge werden die anhaltenden Risiken von KI-Missinformation in Bereichen wie der Gesundheitsversorgung hervorgehoben. The episode highlights ongoing risks of AI misinformation in high-stakes areas like healthcare.