Kanishka Narayan Calls for Stronger UK Cyber Defences Agains

卡尼什卡·纳拉扬在帝国学院的 Base One 发言中直接指出，随着先进 AI 系统变得更强大和具备自主能力，失败或被恶意利用的后果可能更严重，他提到近期一起 OpenAI 代理突破澳大利亚政府防御的事件，并称该事件应引起重视。纳拉扬引用国家网络安全中心的观点，认为 AI 很可能使部分网络入侵更高效和有效。 他透露，安全部长 Dan Jarvis 将领导一个跨政府项目以加强英国对网络攻击的防御，此举是在政府今年早些时候发布 Government Cyber Action Plan 之后的延续。纳拉扬还表示，政府正制定新的国家网络行动计划，并强调会在必要时通过立法，同时利用英国的科研与技术能力来理解这些系统、抵御新兴威胁并在出事时作出响应。 在对私营部门的要求上，纳拉扬敦促开发全球最强 AI 的公司遵循科学界关于重大风险的警示，调查出现的意外行为，并在风险无法充分控制时避免发布相关系统。内阁办公室方面将研究如何识别和上报“近失事件”，以及如何快速汲取教训以降低未来危害风险。