NHS 与医疗AI供应商需要在模型更新后进行“变更演练”以检验临床响应
NHS AI tools need a staff rehearsal when the model changes
英国医疗界专家建议，在医疗AI模型更新后，医院和诊所应开展针对性演练，检验工作人员在工具行为变化时如何响应。作者提出演练应使用现实且去识别化的病例、由受训人员比对新旧输出并记录需升级、可回退的流程，供应商应提供可读的变更说明和回滚选项。演练规模应与变更影响成比例，记录要量化发现的输出差异、澄清时间和由此产生的差错或节省。
详细解读
英国正在推进医疗AI监管与实地监测，专家指出单次上线评估不足以覆盖模型在实际使用中持续演化带来的风险。文章引用内政外的监管动态，说明政府接受了国家医疗AI监管委员会的建议，并且 MHRA 的 AI Airlock 沙盒已进入第三阶段，强调现实世界监测，但这些措施本身并不等同于对临床人员设定普遍的新训练要求。
作者描述了常见的运行问题：模型或集成更新后，输出位置或表达方式发生变化，导致以往基于旧输出形成的工作流程失效。例如某些自动生成的门诊记录中用药提示位置改变或有时不再出现，若审阅者只粗略查看原来习惯的那一节，就可能错过重要信息。此类错配并非总是模型能力下降，而是用户期望与系统行为脱节。
为此，作者建议按下列步骤建立“变更演练”流程：选取现实且去识别化的测试病例；由受训人员将新输出与旧预期和原始记录比对；确定哪些信息必须复核、哪些变化可容忍、哪些需在上线前升级或回退；记录能够暂停该功能或恢复人工流程的具体责任人。演练不必复杂，小诊所可用二十分钟一次的简短测试并留一页学习记录，大系统则按角色设置不同演练。
文章还要求供应商在交接时提供清晰的变更说明，列出可能不同的输出类型、支撑其保证工作的证据以及可用的回滚或遏制选项。采购团队应询问这些通知如何传达以及如何追溯某一结果由哪个版本生成，仅写“改进准确性”的发布说明不足以满足需求。
最后，作者建议量化演练成效，包括记录在演练中发现的重大输出差异数量、澄清不确定结果所需时间以及因检查与修正产生的事件或节省。并强调要保护开放报告的文化，避免将报告奇怪输出与惩罚挂钩，否则临床人员可能选择私下规避问题而不是上报。