英国警方打造的“犯罪预测系统”，部分结果并不可靠

本文深入调查了英国布里斯托尔地区由布里斯托尔市议会与埃文和萨默塞特警察局联合推行的“家庭思维数据库”（Think Family Database）及其配套预测分析项目。该项目始于2015年，初衷是通过整合学校出勤、住房状况、心理健康记录、免费校餐、家庭暴力报案等数十类公共部门数据，帮助一线社工更早识别处于风险中的儿童与家庭。2016年正式启动后，警方在此基础上开发了至少23个机器学习模型，用于预测儿童性剥削、刑事剥削、失踪、法庭缺席、入室盗窃及家暴受害等风险，并试图建立“危险罪犯排行榜”。然而，整个过程未征得居民知情同意，仅依赖所谓“法律通道”（即以儿童保护等法定职责为由强制共享数据），初期甚至不允许居民退出；后期虽增设退订选项，但公众长期不知情、无法监督。

独立审查（如Social Finance报告）指出：风险评分模型是该项目最薄弱环节——准确性严重不足。例如，儿童性剥削（CSE）模型曾将近期性侵受害者评分低于入室盗窃实施者；因警方停止接入市议会的社会类数据（如住房支持、贫困相关指标），模型性能断崖式下滑，一线社工普遍反馈“结果不准”“不敢采信”。审计发现，多个模型精确率长期低于10%（即每标记10人，仅不到1人真会犯罪），且关键变量、源代码、训练逻辑全部缺失，无法复现或验证。第三方机构Eticas明确指出：仅按种族粗略比对平均分远不等于完成公平性测试，未按性别、族裔、社会经济地位等维度开展差异影响评估，是重大疏漏。

更严峻的是制度性缺位：警方伦理委员会早在2016年就警告需警惕偏见、确保透明，但此后再未就此议题开会；所谓“伦理审查组”至今未召开过一次会议，理由竟是“尚未发现需伦理评估的模型”。而项目核心推动者——前埃文和萨默塞特警局局长安迪·马什——现已执掌全英警务标准制定机构“警察学院”，正大力推广AI，宣称要“像注射海洛因一样”加速部署预测警务工具。与此同时，普通市民约翰·佩格拉姆直到2024年才确认自己被纳入“罪犯管理应用”，却始终不知评分依据、数据范围及潜在影响。他发起法律挑战，呼吁彻底废除该系统，强调：“我不反对技术，但我反对让AI拥有主宰普通人生活的权力。”

当前，布里斯托尔市议会仍在使用一个针对青少年“失学失业失训”（NEET）风险的评分模型；警方最新数据显示，其罪犯管理应用对实际犯罪者的预测准确率仅约33%，误报率高达75%。随着英国政府新设7500万英镑的“PoliceAI”机构全面铺开警务AI，布里斯托尔的教训警示：缺乏透明、问责与公众参与的预测技术，非但不能提升公共安全，反而侵蚀信任、加剧不公，并可能对弱势群体造成真实伤害。