近日,欧洲某国际机场部署的一套名为“阿努比斯”的智能安检系统引发舆论风暴。这套以古埃及死神命名的AI身份识别与行为分析装置,号称能在数秒内“称量旅客的灵魂”,判断其是否具有潜在威胁。然而,随着运行数据陆续披露,一个问题浮出水面:阿努比斯,究竟阻止了谁?

神话隐喻下的技术野心

在古埃及传说中,死神阿努比斯负责用天平称量死者的心脏,若重于真理之羽,心脏便被怪兽吞噬,死者无法进入来世。这套安检系统的研发团队显然借用了这一意象——摄像头捕捉面部微表情、步态、心率波动,算法则对比数据库中的“威胁特征”,给出红、黄、绿三色评分。

机场发言人彼得·克劳斯在发布会上宣称:“阿努比斯能分辨出心怀不轨者,哪怕他们伪装得再完美。它每天能阻止数十起潜在的非法行为。”然而,现实却更为复杂。

被误判的“重量”

据本地民权组织“数字尊严”调取的内部报告显示,该系统运行三个月来,共发出897次“红色警报”,其中仅有23次最终被证实为真正的安全威胁,准确率不足3%。更令人担忧的是,被拦截的人群呈现出高度集中的特征:65%为有色人种,22%为残障人士,还有11%为携带大量现金或传统服饰的老年旅客。

一位名叫法拉赫的索马里裔母亲被系统从队伍中拦下,理由是“步态异常与心率紊乱”。她被带到单独房间盘问了两个小时,最终发现只是赶飞机导致疲劳紧张。法拉赫事后对媒体说:“他们告诉我,阿努比斯判断我有‘隐藏的恶意’。可我只是个急着回家看生病孩子的妈妈。那个机器根本不认识我,它阻止的是我回家的路。”

类似案例不胜枚举。一名聋哑人因无法回应语音命令被标记为“不配合”;一名天主教神父因黑袍与十字架触发了“宗教极端着装”算法。技术初衷是拦截恐怖分子,但实际网住的却是母职、残疾与信仰。

算法偏见还是系统预期?

面对质疑,开发公司Anubis Tech的首席科学家玛丽亚·费尔南德斯承认,训练数据主要来源于欧美警方已有的犯罪记录,而这些记录本身存在种族与经济阶层偏见。“机器学习会放大社会已有的不平等。”她说,“但我们的目标是不断修正,并非故意歧视。”

然而,社会学教授詹姆斯·卡特在最新论文中指出问题的另一层面:“阿努比斯的名字本身承载了‘审判’与‘阻止’的意象。当系统将普通人拦下,它会合理化自身的判断——因为‘阿努比斯’天然被认为公正。实际是,技术神话正在掩盖权力滥用。”

谁的心脏重于羽毛?

回到神话本身:阿努比斯的天平衡量的是死者一生的善恶。而现实中的系统,却在衡量几十秒内的行为数据。前者给予每个人平等的死后审判,后者却用历史偏见歧视活人。

被阻止进入机场的那位索马里母亲,她的心脏是否重于羽毛?还是这个时代的技术阿努比斯,早已预设了某些心脏更轻、某些更重?

目前,欧洲多个民权团体已发起联合诉讼,要求暂停系统并公开算法源代码。而机场方面则坚称,随着算法迭代,误报率会持续下降。但在数据公开之前,公共信任的缺口已经裂开。

阿努比斯确实在阻止一些人。它阻止的不是罪犯,而是那些本该自由通行的人。 当技术以死神的姿态介入生活,我们需要追问的或许不是“它阻止了谁”,而是“谁赋予了它称量我们的权力”。

(完,约980字)