AI falsch identifiziert Chips als Waffe, Auslösen Polizei Reaktion; Teenager unverletzt, System angehalten. AI misidentified chips as gun, triggering police response; teen unharmed, system paused.

Die Polizei von Baltimore veröffentlichte Körperkameraaufnahmen einer jugendlichen Person, die verhaftet wurde, nachdem ein AI-System einen Sack Kartoffelchips falsch als Feuerwaffe identifiziert hatte. Baltimore police released body camera footage of a teenage individual detained after an AI system incorrectly identified a bag of potato chips as a firearm. Die Fehlidentifizierung löste eine Eskalation aus, wobei Offiziere Waffen zeichneten, bevor sie den Fehler erkannten. The misidentification triggered an escalation, with officers drawing weapons before realizing the error. Das KI-Tool war noch im Test und nicht voll zugelassen für den Einsatz. The AI tool was still in testing and not fully approved for use. Obwohl der Teenager unverletzt und freigelassen wurde, hat der Vorfall die Besorgnis über KI-Verlässlichkeit, Voreingenommenheit und Aufsicht in der Polizei verstärkt. Though the teen was unharmed and released, the incident has intensified concerns about AI reliability, bias, and oversight in policing. Die Abteilung hat den Systemausbau unterbrochen und eine Überprüfung gestartet. The department has paused the system’s deployment and launched a review.