Open Rights Group质疑内政部庇护AI工具并要求暂停使用
Open Rights Group raises concerns over Home Office AI asylum tools and calls for their suspension
Open Rights Group发布报告，质疑内政部在庇护决定中使用的两项 AI 工具存在错误、透明度不足和缺乏独立监督，并呼吁暂停使用。报告提到，ACS 和 APS 都基于 GPT-4o，ACS 抽样中有 22% 到 30% 的样本未通过不同阶段检查。
详细解读
这份 20 页报告针对内政部在庇护决定中使用的两个工具展开调查，分别是 Asylum Case Summarisation（ACS）和 Asylum Policy Search（APS）。ACS 用于总结庇护面谈记录，APS 用于帮助工作人员检索国家政策信息，两者都通过 Microsoft 的 Azure AI Foundry 使用 OpenAI 的 GPT-4o 模型。
报告称，这两个工具不是单纯检索现成文本，而是会生成新的文字，因此可能过滤或遗漏与决定有关的事实。Open Rights Group 认为，这会影响庇护决定的准确性，而现有的质量控制和透明度都不足。
在 ACS 方面，内政部 2025 年的试点评估发现，9% 的摘要不准确或遗漏信息，因此被移出试验。之后在更大范围使用后，Home Office 专家对 203 份摘要抽样检查，22% 在第一阶段未通过，第二阶段检查的 56 份摘要中又有 30 份未通过。报告还指出，2026 年 4 月到 7 月间只检查了 203 份摘要，约占同期估计 70,000 起案件的 0.3%。
APS 的情况被报告认为更差，因为没有类似的持续质量控制流程。Border Security and Asylum 的国务部长 Anna Turley 已在 8 月确认，APS 的测试现在已经停止。报告同时批评内政部没有把这两项工具纳入英国政府的 AI Playbook，也没有计划进行独立审计，且未把它们列入 Algorithmic Transparency Recording Standard Hub。
Open Rights Group 还引用议会问答和信息公开申请中的说法，指出有关员工培训、测试和使用提示词的问题前后不一，部分信息公开申请也被拒绝。报告最后要求内政部暂停两项工具，委托独立评估和审计，并请 Independent Chief Inspector of Borders and Immigration 调查其使用情况。