AI警务歧视风险：研究警告算法加深对少数... Latest News
据BBC新闻2026年10月25日报道，一项最新研究警告，随着人工智能在警务中的广泛应用，基于有偏差历史数据的算法可能进一步加深对少数族群的歧视。研究人员指出，如果缺乏有效的人类监督，AI系统将复制并放大现有的社会偏见，形成危险的反馈循环。这一问题正引发全球法律、技术与人权领域的广泛关注。
正面回应算法如何放大历史偏见
悉尼大学法学院副教授卡罗琳·麦凯在接受BBC采访时表示，AI系统通过训练历史数据学习，而这些数据本身已包含人类偏见。她将AI比作一个从未到过某城市的地图绘制师，被锁在无窗房间内，只能依据50年前的老地图工作。任何人按照这张新地图行走，都会撞上早已拆除的墙壁、寻找已不存在的道路。麦凯强调：“警察的公共职能应该接受人类监督和审查。”她认为，如果不主动识别并消除训练数据中的偏见，AI预测将变成自我实现的预言。
深夜发文
预测性警务的恶性循环
德克萨斯大学奥斯汀分校社会学家萨拉·布雷恩曾深入洛杉矶警察局研究大数据应用。她在《美国社会学评论》上发表的论文发现，警方越来越多地使用数据预测犯罪，而非仅仅响应。但输入系统的数据本身存在扭曲：公共场所的犯罪更易被记录，警力集中于黑人社区。布雷恩写道：“一旦进入系统，预测看起来似乎是公正的。”她指出，模型创造了一个反馈循环——不仅预测犯罪，还促使其未来发生。这种循环使得被标记区域持续受到重点监控，而其他区域则被忽视。
世纪婚礼专家呼吁加强人类监督
伦敦玛丽女王大学多模态人工智能副教授迪米特里斯·科利亚斯对BBC表示，技术进步已能部分考虑历史偏差，但产生新风险。他说：“老地图类比有助于解释历史偏见如何继承，但有局限性。现代AI系统不仅可以复制训练例子，还能以新方式组合学习信息，生成例子里没有的解决方案。”但他补充道：“随着AI能力增强，能够自主生成新颖决策，我们必须确保其行为安全、可靠，并处于有意义的人类控制之下。”科利亚斯的核心观点是：技术本身并非问题根源，缺乏制衡机制才是关键。
“脏数据”问题：偏见的源头
纽约大学团队的研究更为严峻。他们发现，在美国调查的13个地区中，9个地区的警察数据来自存在违法或偏见执法的时期，而这些数据被用于训练AI预测系统。系统无法识别数据是否存在伪造、虚报或压迫性逮捕，只会将其当作模式重复。研究人员指出，单纯依靠公司提供的技术补丁远远不够，必须独立检查原始数据的生产环境。麦凯主张在任何人使用“地图”之前，由独立方审核并擦除错误线条，但清除“脏数据”极其困难，因为整个地图都建立在错误之上。
关键研究与观点对比
| 研究人员/机构 | 核心观点 | 主要发现 | 来源/时间 |
|---|
| --- | --- | --- | --- |
|---|
| 萨拉·布雷恩（德克萨斯大学） | 预测性警务形成反馈循环，强化对黑人社区的歧视 | 数据偏向公共区域和少数族群，AI使偏见制度化 | 《美国社会学评论》 |
|---|
| 卡罗琳·麦凯（悉尼大学） | 必须加强独立人类监督，清洗训练数据 | 类比老地图，AI只是复制陈旧偏差 | BBC采访，2026年 |
|---|
| 迪米特里斯·科利亚斯（伦敦玛丽女王大学） | 现代AI能超越历史数据，但自主决策需要严格管控 | 技术可组合信息产生新输出，但安全风险上升 | BBC采访，2026年 |
|---|
| 纽约大学团队 | 9/13地区警察数据含有偏记录，系统无法自我纠偏 | “脏数据”导致AI重复过去的不公正 | NYU研究报告 |
|---|
跨领域启示：从医疗AI看偏见
AI偏见的后果并不局限于执法。2019年发表在《科学》杂志上的一项研究显示，美国医疗系统使用的AI工具在决定哪些患者应获得额外支持时，将医疗成本作为需求指标。由于黑人患者相比同等病情的白人患者花费更少（部分因就医机会不足），该系统系统性地低估了黑人患者的需求，导致资源分配不公。这一案例警示：当AI仅通过数据看世界时，它会犯下严重且有害的错误。警务领域同样如此，若数据本身有偏，AI无法“自觉”修正。
Q1: 为什么AI会加剧对少数族群的歧视？
A1: AI系统基于历史警察记录进行训练，而这些记录往往反映了执法中对特定社区的过度关注和偏见逮捕。系统无法识别数据中的偏差，只学习过去的行为模式，导致对少数族群密集区域的预测性巡逻增多，形成“更多警力→更多发现→更强化预测”的恶性循环。
Q2: 如何避免AI警务歧视？
A2: 研究人员建议在部署前对训练数据进行独立审计，剔除因违法或偏见执法产生的“脏数据”。同时，必须建立人类监督机制，确保AI输出受到审查，并赋予公民申诉权。技术层面，开发者需设计对偏见敏感的数据处理流程，但核心仍依赖外部制衡而非算法自身。
总体而言，AI在警务中的潜力不可否认，但若不解决数据源和监管的根本问题，它将固化而非消除社会不平等。未来需要法律、技术和公民社会协同努力，让智能工具真正服务于公平与正义。
Related Articles - 阵容推荐
BBC最新研究警告，人工智能执法系统基于有偏历史数据，可能放大对少数族群的歧视。专家呼吁加强人类监督、清洗“脏数据”。了解AI预测性警务如何形成反馈循环，以及跨领域案例启示。
