英国超市误将顾客识别为窃贼，AI人脸扫描技术遭暂停使用

英国大型超市连锁品牌塞恩斯伯里Sainsburys旗下一家门店因AI人脸识别系统错误地将一名顾客认定为惯犯并将其驱逐出店目前已暂停该门店的AI人脸扫描功能。我当时又尴尬又羞愤感到既屈辱又无助。46岁的喜剧活动策划人马特·阿诺德Matt Arnold如此描述这段亲身经历。事发地点位于伦敦东南部的东杜尔维奇East Dulwich。当时阿诺德正在为隔壁达尔维奇哈姆雷特足球俱乐部举办的脱口秀活动采购物资。他扫描了商品并刷了会员卡后两名店长走上前来以此前发生过事故为由拒绝为其结账并要求他离开门店。他们直接告诉我要把我送出去阿诺德说我当时坚持自己走不想被人押着出去想保留一点尊严。在这一点上他们倒是妥协了。走出门店时他注意到头顶的监控屏幕上出现了警报提示一个红圈正圈着他的脸。他请求店员将购物车保留以便他的朋友随后进来结账取货——毕竟脱口秀演出就在隔壁马上就要开始了。他们对此似乎有些困惑但还是答应了。大约五分钟后我的同事戴夫进去结了账把东西都取走了。整个过程中店员们没有任何停下来思考的迹象没有人意识到一个真正的惯犯根本不会这样行事只是在盲目地执行机器的指令。事发次日塞恩斯伯里总部向阿诺德致歉并宣布在该门店暂停使用由Facewatch提供的AI辅助人脸识别技术同时启动内部调查。但阿诺德认为该技术应在所有门店全面叫停并对AI在社会中的广泛应用表示忧虑。任何人都可能遭受这种错误指控而这迟早会落到某个脆弱的群体身上比如有焦虑症等心理健康问题的人这几乎是必然的他说我也很担心如果这种事发生在年轻人或那些不善于或无力为自己发声的人身上会对他们的自信心造成多大的打击。塞恩斯伯里此前一直借助人脸识别技术识别惯犯及其他不法人员官方表示此举是为了保护员工免遭侵害。然而这项技术已多次出现问题。去年9月另一名顾客沃伦·拉贾Warren Rajah在伦敦南部象堡Elephant and Castle的一家门店内同样被Facewatch系统错误识别并被要求离开。此外类似事件也曾在Home Bargains和BM等零售门店相继发生。阿诺德表示塞恩斯伯里以及所有使用Facewatch的企业都应立即停用该系统至少在能够确保系统万无一失之前应如此。他们已宣布暂停东杜尔维奇门店的人脸识别功能但这是一套集中部署的系统——既然东杜尔维奇可能存在问题不论是AI本身还是实施层面的问题为什么不在所有门店一并暂停他还对AI在社会中的蔓延趋势表示担忧我不喜欢监控文化但我理解它在某些情况下的必要性。真正没有必要的是让机器做出决定然后强迫人类不加思考地去执行。塞恩斯伯里发言人回应称我们已联系阿诺德先生就他在达尔维奇超市的遭遇致以诚挚歉意。此次事件系人为失误所致并非人脸识别技术本身的问题。Facewatch系统的识别准确率高达99.98%且每一条匹配结果均由经过专业培训的管理人员审核请顾客放心。Facewatch发言人同样表示此次事件并非技术故障所致。系统发出了准确的识别警报但随后在门店处理过程中出现了人为失误。该公司表示暂停某一门店的使用是一项预防性措施旨在在员工接受补充培训期间防止出现进一步的误报。塞恩斯伯里方面还表示警报信息会在员工设备上显示最多一小时且所有误识别事件均有记录存档。QAQ1Facewatch人脸识别系统的识别准确率是多少A根据塞恩斯伯里官方回应Facewatch系统的识别准确率为99.98%且每一条匹配结果都需要由经过专业培训的管理人员进行人工审核后才会采取行动。但此次事件表明即便系统本身发出了正确的警报后续的人工处理环节仍可能出现失误导致无辜顾客遭受错误对待。Q2马特·阿诺德被误认为惯犯后塞恩斯伯里做了哪些处理A事发次日塞恩斯伯里总部主动联系阿诺德并正式道歉。同时宣布暂停事发的东杜尔维奇门店的Facewatch人脸识别功能并展开内部调查。此外该公司表示将对相关员工进行补充培训。但阿诺德认为仅暂停一家门店远远不够应在所有使用该系统的门店全面叫停。Q3英国还有哪些零售商使用了Facewatch人脸识别技术A除塞恩斯伯里外英国零售商Home Bargains和BM也曾使用Facewatch人脸识别技术且均发生过类似的误识别事件导致无辜顾客被错误驱逐出店。这说明该技术在多家零售商的实际应用中均存在一定问题并非个例。