近日，美国马里兰州一名 16 岁高中生因口袋里的一包薯片被学校 AI 监控系统误判为枪支，而遭到警察包围。

据中国日报援引福克斯新闻，这位名为塔基 · 艾伦的高中生在学校等车时，将一个空的薯片包装袋塞进了口袋里。然而没过多久，多名警察突然出现将他围住，命令他趴下并给他戴上了手铐。

警察局公布的执法记录仪视频显示，出警警察发现是学校的实时监控人工智能安防系统将一个薯片包装袋误判为枪支，才引发了警方的执法行动。

美警方凭 AI 工具乱抓人并非个例，据新华社此前报道，美国《华盛顿邮报》公布的调查发现，称美国已有 75 家警察局确认在办案时使用人工智能（AI）技术的面部识别工具。然而，其中 12 个州的 15 家警察局仅凭这一项证据确定嫌疑人，已造成至少 8 人无辜被抓。

据报道，美国多地警方规定，办案需将人工智能算法得出的结果与其他证据交叉印证。但在上述 8 起冤案中，办案警察屡屡违规，其中包括：在 6 起案件中未核查不在场证明，或过度依赖有问题的证人证词；在 5 起案件中未能收集关键证据；在 3 起案中忽视嫌疑人的体貌特征；在 2 起案中无视与算法结果矛盾的其他证据。

例如，密歇根州底特律警方仅凭面部识别结果就认定一名女子为劫车案嫌疑人，无视这名女子怀有 7 个月身孕，且监控视频和证人证词均未包括 " 嫌疑人怀孕 " 这一特征。

2021 年，圣路易斯警方调查两名男子在列车站台攻击保安致其重伤案件，数月没有突破。此后，警方利用面部识别工具，锁定加特林。而且，受害保安脑部受伤，记忆受损，而办案警察在请他辨认嫌疑人时，涉嫌诱导他推翻第一印象判断而指认加特林。受害者的指认加上人工智能识别成为加特林被捕的仅有证据。由于辩护律师在法庭上指认警方所用影像证据过于模糊，几乎无法看清嫌疑人面容，加特林最终才洗清罪名。不过，他因冤案被关了 16 个月。

韦尔诺的经历也十分倒霉。去年，他与 " 正牌 " 嫌疑人同一天在同一家银行柜台办理业务，后者伪造支票套现 3.6 万美元，韦尔诺则是正常兑现 1500 美元支票。银行只提供了韦尔诺的监控视频供警方作面部识别，而且警方没有核验韦尔诺的银行账户、转账时间等其他任何可能避免抓错人的证据。他被羁押 3 天，在向警方提出一系列质疑后才获释。

这 8 起案件中，当事人虽然洗清了嫌疑，但遭错抓的经历对他们及家人造成严重伤害。有人因此失业、家庭破裂、或被迫信贷违约。还有当事人的子女因目睹逮捕过程心理受伤，接受治疗。大部分人因此对警察心生恐惧。