AI identifierar Doritos-påse som pistol - polisen riktar vapen mot 17-årig student

Kenwood High School i Maryland använder ett AI-drivet säkerhetssystem som heter Omnilert, som kopplar in befintliga övervakningskameror för att kontinuerligt söka efter potentiella vapen. Men systemet gör inte alltid rätt. På kvällen den 20 oktober markerade det felaktigt en påse Doritos - ett populärt mellanmål i USA - som ett skjutvapen.

Chipsen tillhörde Taki Allen, en 17-årig student som väntade på skjuts efter fotbollsträningen runt kl. 19.00 när polissirener plötsligt tjöt och åtta patrullbilar stannade till. Poliserna hoppade ut och riktade sina vapen mot honom. "Jag trodde att jag skulle dö ... de hade vapen mot mig ", sa Allen till CNN. Han tvingades ner på knä, fick handbojor på sig och blev visiterad - men poliserna hittade bara en tom chipspåse på marken.

Enligt rektor Kate Smith hade AI-larmet redan avbrutits innan polisen anlände. Uppdateringen kommunicerades dock inte i tid, sa en talesman för skoldistriktet till WBAL-TV 11. Superintendent Myriam Rogers kallade händelsen "olycklig" och meddelade en fullständig granskning. Psykologiskt stöd kommer att ges till de inblandade eleverna.

Krav på reformer efter falskt alarm

Efter händelsen krävde Allens farfar, Lamont Davis, ansvarsskyldighet och reformer i användningen av AI-övervakning. Händelsen utlöste också en intensiv debatt på sociala medier. På Redditframförde användarna stark kritik mot polisen, skoltjänstemännen och den teknik som användes. Många hävdade att det verkliga problemet inte var AI:n i sig, utan hur människor reagerade efter larmet. "Mänskligt fel, inte AI-fel", löd en av de bästa kommentarerna.

Ett system som är utformat för att upptäcka vapen tidigt är vettigt - särskilt i USA, där skolskjutningar fortfarande är ett allvarligt problem. Men det är viktigt att se till att dessa verktyg inte blir en risk i sig själva. Det innebär att man måste minimera falsklarm och upprätthålla en tydlig kommunikation mellan säkerhetspersonal och polis.