Das britische KI-Betrugserkennungssystem verzerrt bestimmte Gruppen und fordert sie auf, ihre Nutzung einzustellen. UK's AI fraud detection system biases against certain groups, prompting calls to halt its use.

Das britische Department for Work and Pensions (DWP) hat herausgefunden, dass sein KI-System zur Erkennung von Leistungsbetrug eine Voreingenommenheit auf der Grundlage von Faktoren wie Alter, Behinderung und Nationalität zeigt. The UK's Department for Work and Pensions (DWP) has discovered that its AI system for detecting benefits fraud shows bias based on factors like age, disability, and nationality. Eine interne Bewertung ergab, dass das System bestimmte Gruppen bei Betrugsuntersuchungen häufiger falsch markierte. An internal assessment found that the system incorrectly flagged certain groups more often for fraud investigation. Die Kritiker fordern, dass das DWP den weiteren Einsatz solcher Instrumente einstellt, bis die Risiken vollständig verstanden sind. Critics are calling for the DWP to halt further deployment of such tools until risks are fully understood.