Open Rights Group质疑内政部庇护AI工具并要求暂停使用

这份 20 页报告针对内政部在庇护决定中使用的两个工具展开调查，分别是 Asylum Case Summarisation（ACS）和 Asylum Policy Search（APS）。ACS 用于总结庇护面谈记录，APS 用于帮助工作人员检索国家政策信息，两者都通过 Microsoft 的 Azure AI Foundry 使用 OpenAI 的 GPT-4o 模型。 报告称，这两个工具不是单纯检索现成文本，而是会生成新的文字，因此可能过滤或遗漏与决定有关的事实。Open Rights Group 认为，这会影响庇护决定的准确性，而现有的质量控制和透明度都不足。 在 ACS 方面，内政部 2025 年的试点评估发现，9% 的摘要不准确或遗漏信息，因此被移出试验。之后在更大范围使用后，Home Office 专家对 203 份摘要抽样检查，22% 在第一阶段未通过，第二阶段检查的 56 份摘要中又有 30 份未通过。报告还指出，2026 年 4 月到 7 月间只检查了 203 份摘要，约占同期估计 70,000 起案件的 0.3%。 APS 的情况被报告认为更差，因为没有类似的持续质量控制流程。Border Security and Asylum 的国务部长 Anna Turley 已在 8 月确认，APS 的测试现在已经停止。报告同时批评内政部没有把这两项工具纳入英国政府的 AI Playbook，也没有计划进行独立审计，且未把它们列入 Algorithmic Transparency Recording Standard Hub。 Open Rights Group 还引用议会问答和信息公开申请中的说法，指出有关员工培训、测试和使用提示词的问题前后不一，部分信息公开申请也被拒绝。报告最后要求内政部暂停两项工具，委托独立评估和审计，并请 Independent Chief Inspector of Borders and Immigration 调查其使用情况。