英国拟加强网络防御，并要求前沿人工智能企业承担更积极的系统安全责任。相关动向反映出 AI 能力快速提升背景下，政府监管、本土基础设施建设与企业安全治理正在同步推进。
今日技术观察 IT之家 10 月 12 日消息，据《卫报》报道，英国将加强其网络防御，同时呼吁顶尖人工智能研发企业在系统安全治理上采取更积极的举措。英国 AI 国务大臣卡尼什卡 · 纳拉扬（Kanishka Narayan）预计将在西伦敦发表的专题演讲中正式宣布上述政策主张。纳拉扬将呼吁前沿人工智能研发企业采取更多切实举措保障系统安全。IT之家获悉，纳拉扬表示，英国绝不能完全依赖科技巨头对其模型进行“自我监管”，并强调英国本土必须构建更多自主可控的 01 背景速览 据相关报道，英国人工智能国务大臣卡尼什卡·纳拉扬计划在专题演讲中提出加强网络防御、推动前沿人工智能企业采取更多安全措施等主张。英国政府表示，不能完全依赖科技企业对 AI 模型进行自我监管，并希望提升本土 AI 基础设施的自主能力。英国人工智能安全研究院此前已与多家领先 AI 企业合作开展模型测试，为政府决策和模型部署提供参考。 02 趋势影响 从公开信息看，AI 在网络安全和软件工程任务中的表现持续提升，部分任务的完成成功率已较早期明显提高，模型能够独立完成的任务时长也在增加。与此同时，面向模型的防护措施也在改进，红队发现通用越狱方法的难度有所上升。这说明 AI 既可能提升安全运营、代码开发和风险检测效率，也可能扩大自动化攻击、漏洞利用及不当使用带来的影响，企业需要同时关注能力增长与风险控制。 03 企业应用启发 对于企业数字化建设而言，相关政策讨论带来的启发包括：在引入 AI 编程、智能客服、运营分析或安全检测工具时，应建立模型评估、权限管理、日志留存和人工复核机制；涉及核心代码、客户数据、生产系统或网络防御的场景，还应明确工具使用边界和责任归属。英国推动主权 AI 投资、AI 硬件研发及网络安全产业发展的做法，也提示企业在关键技术选型中关注供应链稳定性、基础设施可控性和长期服务能力。 04 合规观察 企业在应用 AI 时仍需重视合规与安全风险。模型测试结果并不等同于所有业务场景下的安全保证，企业不能仅依据供应商声明或模型能力指标作出部署决定。对于敏感数据、重要信息系统和高影响业务，应结合实际用途进行风险评估，防止数据泄露、错误输出、权限滥用和未经授权的自动化操作。同时，监管要求可能因地区、行业和应用场景而不同，企业应持续跟踪适用规则并保留必要的审计记录。 05 开放讨论 在 AI 能力快速提升的背景下，企业应如何划分模型供应商、使用企业与人工审核人员之间的安全责任？对于代码生成、网络防御和企业知识库等场景，哪些任务适合自动化，哪些环节必须保留人工决策？企业在选择海外或本土 AI 基础设施时，应优先考虑成本、性能、数据治理还是供应链可控性？欢迎结合实际应用经验参与讨论。 公开来源参考 英国将加强网络防御，AI 国务大臣呼吁人工智能企业加大安全保障力度