从失控到可控：基于系统控制论的 Agent 安全防御体系设计与实践｜AICon深圳

Agent 时代，哪些方向正在成为行业关键变量？50 + 实战案例揭晓答案！ 模型参数规模不断突破，推理成本持续下降，开源生态日益繁荣。当模型能力逐渐成为行业共识，一个新的问题开始浮现：当人人都能获得强大的模型能力之后，真正的竞争力还剩下什么？ 答案正在从模型能力本身，转向围绕模型构建可规模化的智能系统；从单点能力提升，转向系统工程与组织级落地能力。 在这一背景下， 2026 年 AICon 人工智能开发与应用大会 · 深圳站 "正式启动。本次大会将于 8 月 21 日—22 日举办，聚焦 AI 基础设施、大模型系统、智能体工程、数据智能、多模态技术与行业落地等关键方向，邀请来自腾讯、阿里、华为、百度、蚂蚁集团等 50 + 头部科技企业技术负责人、科研机构一线专家，系统性分享前沿洞察与实战干货，共同探讨 AI 技术从能力到系统、从实验到生产的真实路径。 vivoAI 安全工程师张栋已确认出席 “ Agent 安全：从风险到可控 "” 专题，并发表题为《 从失控到可控：基于系统控制论的 Agent 安全防御体系设计与实践 "》的主题分享。随着大模型从内容生成走向自主规划、工具调用和跨系统执行，Agent 的安全问题正在由“单点风险”演变为“复杂系统失控”。传统依赖规则、权限和静态检测的防御方式，难以应对目标漂移、链式放大、环境反馈和长周期任务中的动态风险。本议题将从系统控制论出发，将 Agent 视为一个持续感知、决策、行动和反馈的开放系统，介绍如何围绕风险状态建模、异常感知、动态授权、行为约束、结果校验、恢复纠偏和持续进化，构建可观测、可判断、可控制、可审计、可恢复的安全闭环。同时结合真实业务实践，分享控制论方法如何转化为 Agent 防御架构、策略机制和 Red Team 验证体系，以及其在复杂场景中的实际效果、工程边界与演进方向。 张栋，vivoAI 安全工程师，长期聚焦大模型与智能体安全、LLM/Agent Red Team、AI 安全治理及可信控制体系建设。近年来重点研究如何将系统控制论、复杂系统理论与工程安全结合，构建覆盖风险感知、动态决策、行为约束、异常恢复和持续进化的 Agent 安全防御闭环，相关方案已应用于实际业务。曾多次在国内外行业会议和技术社区分享大模型攻击防御、认知安全与智能体可信治理实践。他在本次会议的详细演讲内容如下： 演讲提纲：1. Agent 安全问题为何发生了本质变化从内容生成走向任务规划、工具调用、跨应用执行和长期运行后，风险不再只是单次模型输出错误，而是由模型、工具、权限、环境和反馈共同形成的复杂系统失控2. 传统安全方案的能力边界分析静态规则、权限控制、内容审核和单点检测在多步骤任务、目标漂移、错误累积及链式风险面前的局限3. 系统控制论视角下的 Agent 风险建模将 Agent 抽象为“目标—状态—行动—环境—反馈”的动态系统，识别可观测性不足、控制失效、反馈延迟、扰动放大等关键风险4. Agent 安全防御闭环设计介绍“感知—判断—控制—恢复—进化”五层防御体系，以及可观测、可判断、可授权、可约束、可审计、可恢复的核心能力关键安全机制与工程实现：包括风险状态建模、动态授权、执行前校验、过程监测、结果验证、异常中断、回滚恢复和策略持续优化真实业务实践与 Red Team 验证：结合手机端和 PC 端 Agent 项目，说明如何将理论框架转化为安全需求、架构机制、测试用例及上线治理闭环5. 效果、边界与未来演进总结控制论方法适用的场景、当前工程约束，以及面向长期任务、多 Agent 协作和自主进化系统的后续方向演讲痛点1. 系统状态难以完整观测Agent 的意图、规划链路、工具调用和环境状态分散在不同模块，难以形成统一、实时且可信的风险视图2. 安全控制与用户体验存在明显权衡过度确认和严格限制会降低任务成功率与流畅度；控制过弱又可能导致越权执行、错误传播和不可逆后果3. 复杂风险难以通过静态规则覆盖许多风险并非来自单次恶意请求，而是在多步骤执行、上下文变化和工具组合中逐渐形成，规则数量容易快速膨胀4. 恢复机制比阻断机制更难建设Agent 已经修改文件、发送信息或调用外部系统后，仅依赖拦截并不能解决问题，还需要事务记录、结果校验、撤销和补偿机制5. 理论模型与工程系统之间存在落差控制论能够提供统一框架，但落地时仍需结合具体业务定义状态变量、风险阈值和控制动作，无法直接套用一套通用参数6. 安全效果缺乏成熟评价标准当前难以同时量化风险降低程度、误拦截率、任务成功率和控制成本，需要通过 Red Team、回归测试及线上数据持续校准听众收益1. 获得一套区别于传统规则防御的 Agent 安全分析框架能够从复杂系统和闭环控制视角，重新理解目标漂移、工具越权、错误累积和执行失控等问题2. 掌握可直接应用于项目的防御架构与落地方法包括风险建模、动态授权、过程控制、结果验证、异常恢复及 Red Team 验证的完整实施路径3. 了解真实 Agent 项目中的工程权衡与实践经验理解安全性、任务成功率、用户体验和研发成本之间的 trade-off，减少只做静态规则或单点能力建设的试错成本 除此之外，本次大会还策划了 AI Infra、推理工程与异构计算 "、 超级个体与蜂群智能的共生进化 "、 迈向机器人 AGI 的关键技术与产业实践 "、 Agent 安全：从风险到可控 "、 大模型效率工程与 Agent 系统实践 "、 AI Agent 高价值商业场景实战 "等10个专题论坛，届时将有来自不同行业、不同领域、不同企业的50+资深专家在现场带来前沿技术洞察和一线实践经验。 2026 年 AICon 人工智能开发与应用大会 · 深圳站将于 8 月 21 日—22 日举办，邀请来自腾讯、阿里、华为、百度、蚂蚁集团等 50 + 头部科技企业技术负责人、科研机构一线专家，系统性分享前沿洞察与实战干货，共同探讨 AI 技术从能力到系统、从实验到生产的真实路径。更多详情可扫码或联系票务经理 13269078023 进行咨询。