华英网 Chinese in UK
生活teiss· 媒体·

医疗、能源与交通等关键基础设施正大规模部署 AI,专家呼吁加强可视性与问责

Technology - AI is already inside your organisation – do you know what it’s doing with your data?

英国的关键国家基础设施(包括 NHS、铁路与能源部门)正在大规模采用 AI,例如 NHS 将 AI 助手推广给 505,000 名员工以协助文书与数据分析,但同时出现数据泄露和“影子 AI”治理风险。

详细解读

第一段,关键事实与示例

英国多行业尤其是关键国家基础设施(CNI)已进入大规模 AI 采用阶段。文中举例,NHS 正向 505,000 名员工部署 AI 助手以帮助起草文档与分析数据,铁路业利用 AI 管理列车、车站与运营基础设施,能源行业用 AI 预测用电需求、优化供给并改进预测性维护。与此同时,从美国出现的案例可见,员工使用未经批准的 AI 工具处理客户信息可能导致需正式披露数据泄露,说明影子 AI 可在没有传统网络攻击的情况下形成治理与合规风险。

第二段,可视性为何重要与具体要求

作者主张将“可视性”作为首要策略。要知道哪个员工在用哪种 AI、其用途是什么、以及数据流向何处,才能区分生产性采用与真正的高风险行为。有了这些信息,组织可以避免一刀切禁用,而是围绕特定用例和数据类型设定清晰边界,让员工在安全范围内自行判断并减少绕过行为。

第三段,技术与治理手段

仅靠教育与文化无法完全解决问题,需要技术性控制配合,例如针对 AI 工作流调优的数据防泄露(DLP)和终端保护,识别并对进入提示的敏感数据标记,以及防范提示注入和数据投毒等攻击。作者提及 Fortinet 的能力可提供实时、带风险评分的 AI 工具清单和数据流可视化,并将员工引导到经批准的企业级 AI 服务以把数据留在组织内。

第四段,合规与领导责任

合规方面,文中指出 Cyber Security and Resilience Bill 要求对影响基本服务的网络事件在 24 小时内进行初步通报,72 小时内提交更详尽报告,这意味着如果组织不知道员工如何使用 AI,就可能无法及时发现或报告事件。治理上应参照政府的 Cyber Governance Code of Practice,明确安全、IT 与人力资源之间的责任分工,并要求董事会层面承担问责,不能仅由安全团队独自负责。

第五段,行动建议与结论

文章总结三项可立即采取的行动:确保可视性,知道谁在用什么 AI 以及用途;向员工明确允许与禁止的行为以减少影子 AI;由高层领导承担责任,推动跨部门的决策与执行。作者认为,理解 AI 带来的机会同时应解决相应挑战的组织,将更有效率地利用 AI。