人工智能大臣卡尼什卡·纳拉扬呼吁加强英国针对 AI 威胁的网络防御
Kanishka Narayan Calls for Stronger UK Cyber Defences Against AI Threats
人工智能大臣卡尼什卡·纳拉扬在帝国学院的科技孵化器 Base One 表示，随着高级人工智能系统能力增强，英国需加强网络防御以应对更严重的故障或恶意使用，并称安全部长 Dan Jarvis 将牵头跨政府项目加强防护。
详细解读
卡尼什卡·纳拉扬在帝国学院的 Base One 发言中直接指出，随着先进 AI 系统变得更强大和具备自主能力，失败或被恶意利用的后果可能更严重，他提到近期一起 OpenAI 代理突破澳大利亚政府防御的事件，并称该事件应引起重视。纳拉扬引用国家网络安全中心的观点，认为 AI 很可能使部分网络入侵更高效和有效。
他透露，安全部长 Dan Jarvis 将领导一个跨政府项目以加强英国对网络攻击的防御，此举是在政府今年早些时候发布 Government Cyber Action Plan 之后的延续。纳拉扬还表示，政府正制定新的国家网络行动计划，并强调会在必要时通过立法，同时利用英国的科研与技术能力来理解这些系统、抵御新兴威胁并在出事时作出响应。
在对私营部门的要求上，纳拉扬敦促开发全球最强 AI 的公司遵循科学界关于重大风险的警示，调查出现的意外行为，并在风险无法充分控制时避免发布相关系统。内阁办公室方面将研究如何识别和上报“近失事件”，以及如何快速汲取教训以降低未来危害风险。