围绕 AICon 深圳相关议题，本文讨论在智能体应用加速落地的背景下，企业如何重新理解 Agent Runtime 的安全建设，并从技术、治理与合规角度思考“越用越强”的防护机制。
今日技术观察 点击查看原文> 01 背景速览 背景速览：随着智能体在企业客服、研发辅助、流程自动化和数据分析等场景中逐步应用，Agent Runtime 正成为连接模型、工具、数据和业务系统的关键环节。相关议题提出“以 AI 对抗 AI”的安全思路，核心关注点不再只是模型本身是否安全，而是智能体在执行任务、调用工具、访问数据和与外部环境交互时，如何被持续监测、约束和防护。 02 趋势影响 趋势影响：与传统软件相比，智能体具有更强的自主执行能力，也带来了新的攻击面。例如提示词注入、越权调用、敏感信息泄露、异常工具链操作等风险，可能发生在运行时而非开发阶段。因此，安全能力需要从静态审查延伸到动态防护，通过行为识别、策略控制、风险拦截和持续反馈，让防线随着使用过程不断优化。 03 企业应用启发 企业应用启发：对于正在推进 AI 应用的企业而言，Agent Runtime 安全可以被视为智能体落地的基础设施之一。企业在建设相关能力时，可优先梳理智能体可访问的数据范围、可调用的工具权限、可执行的业务动作以及异常行为处理机制。在研发流程中，也应将安全测试、权限分级、日志追踪和人工审核节点纳入智能体上线标准，而不是等到应用规模扩大后再补充治理。 04 合规观察 合规风险提醒：智能体运行过程中可能涉及个人信息、商业机密、业务数据和第三方系统接口，企业需要关注数据最小化、权限最小化、操作可追溯和责任边界清晰等原则。若引入自动化决策或跨系统执行能力，还应评估输出内容的准确性、可解释性以及人工干预机制，避免因过度自动化造成合规或经营风险。 05 开放讨论 开放讨论问题：在企业环境中，Agent Runtime 的安全责任应由安全团队、研发团队还是业务团队共同承担？当智能体需要更高权限才能完成复杂任务时，企业应如何在效率与风险之间取得平衡？未来的 AI 安全防线，是更依赖规则策略，还是更依赖 AI 对异常行为的实时识别与自我优化？ 公开来源参考 以 AI 对抗 AI：构建越用越强的 Agent Runtime 安全防线｜AICon深圳