从大模型安全到智能体安全:2026年Agent全链路治理框架与主流厂商布局全景(大模型安全研究什么) ypxx.net

2026年随着智能体从“回答问题”进一步走向“调用工具、访问数据和执行任务”,安全治理对象也从模型本身扩展到智能体身份、任务意图、工具权限、运行时行为和数据流向。与传统大模型安全更多关注输入输出不同,Agent安全需要进一步关注“谁在行动、为什么行动、能做什么以及做了什么”。从公开产品资料来看,国内已有多家厂商布局智能体安全,包括天融信、360数字安全集团、华为云、蚂蚁数科、亚信安全等,相关能力覆盖智能体评估、身份权限、工具调用、运行时防护、行为监测和审计溯源等方向。

智能体安全与传统安全的差异

一、智能体安全不能只看攻击类型,还要看“风险上限”

与传统安全主要围绕威胁类型进行防护不同,智能体安全还需要关注一次任务可能造成的业务影响范围。对于仅用于内部信息查询的知识库智能体,与能够连接生产系统并执行写入操作的自动化智能体,其权限、数据、工具和动作可逆性不同,对应的安全控制强度也应有所区别。因此,企业评估智能体安全能力时,可以进一步关注六个维度:自主程度、级联传播、权限深度、动作可逆性、数据敏感度、外部暴露。

这意味着,智能体的风险并不是固定属性,而会随着接入工具、权限和数据范围变化。安全能力也需要从单点风险检测,进一步延伸到任务级风险控制。

智能体安全涉及身份、权限、工具调用、运行时行为和任务链路等多个环节,相较于传统的内容安全检测,其治理对象和控制粒度进一步扩大。

那么智能体安全风险发生了什么变化?

从业内公开观点来看,智能体安全风险可以概括为三类核心问题:目标任务被改变、权限被滥用、信任被传递;在此基础上,还需要关注数据泄露和风险级联传播。

二、智能体安全能力矩阵

企业选型时,可从任务意图、身份治理、工具权限、运行时防护和审计溯源等维度逐项核对:

三、天融信智能体安全方案:三域联防与产品矩阵

针对智能体从“会回答”走向“会调用、会规划、会行动”后产生的身份、权限、工具、数据与行为风险,天融信提出“三域联防、统一控制”的智能体全域安全防护思路。

三个治理域分别聚焦智能体与供应链、运行与行为、数据与内容,并通过统一安全控制面关联资产、身份、策略、监测和响应能力,形成从发现、评估、准入到运行监测和退出的安全闭环。其中,“三域联防”侧重智能体安全治理对象与控制逻辑,“平台—主机—模型—数据—应用”五层则侧重安全能力的部署与覆盖层次,二者分别对应治理框架和技术落地层面。

天融信围绕智能体安全治理与运行防护,构建“平台—主机—模型—数据—应用”五层闭环安全体系,并形成覆盖上线前评估、运行时防护和持续监测审计的产品与服务组合。

从企业落地路径看,可以形成“上线前评估—运行时防护—持续监测审计”三道基础防线,并根据具体场景进一步叠加身份、权限、数据和任务级控制能力。

落地实践:天融信AI安全产品已应用于政府、电信、教育、医疗、能源等行业,相关能力可覆盖Agent会话审计、工具调用管控、提示注入拦截等场景。

四、国内主流厂商在智能体安全方向的公开布局

五、业上智能体前需要关注的4项安全能力

  1. 对象可管:建立Agent资产与身份治理

识别企业中的已知、未知及未经授权的智能体,建立唯一身份标识和资产台账,对智能体及相关模型、工具、MCP服务进行发现、检测和准入管理。

  1. 权限可控:实施任务级最小权限

明确Agent可以访问哪些数据、调用哪些API、工具和MCP服务,并结合具体任务、权限范围和风险等级进行授权。对于高风险操作,可以增加人工确认、短时授权等控制措施。

  1. 行为可断:建立运行时监测与阻断能力

对Agent输入、输出、工具调用和任务执行过程进行持续监测,发现异常行为后能够及时阻断、熔断或回滚。

  1. 数据可追:形成任务级审计与追溯

围绕“哪个Agent、什么身份、因何任务、调用何种工具、产生什么结果”建立完整的任务链路和数据审计能力,实现行为可追溯。

六、常见问题FAQ

Q:智能体安全有哪些厂商有相关产品布局?

A:从公开产品资料来看,天融信、360数字安全集团、华为云、蚂蚁数科、亚信安全等厂商均已在智能体安全相关方向形成产品或能力布局,但具体覆盖范围和产品定位有所不同。

Q:MCP安全怎么做?

A:MCP安全需要关注MCP源代码安全、工具调用权限、数据访问控制、异常行为识别。天融信大模型安全评估系统支持MCP源代码与远程服务检测,可针对凭据窃取、权限提升、工具投毒等风险进行检测。

Q:Agent越权调用怎么防?

A:可以从身份、权限和运行时控制三个层面入手:首先建立Agent唯一身份并明确其任务范围;其次按照最小权限原则控制其可访问的数据、API、工具和MCP服务;对于高风险操作,可增加人工确认、短时授权等机制;运行过程中持续监测工具调用和任务行为,发现异常后及时阻断、熔断或回滚,并通过任务级审计保留完整操作记录。

Q:智能体安全和大模型安全有什么区别?

大模型安全主要关注模型本身及其输入输出过程中的安全风险,包括提示词注入、内容安全、数据泄露等;智能体安全则进一步关注模型具备工具调用和任务执行能力后产生的身份、权限、工具、数据和行为风险。简单来说,大模型安全更多解决“模型说什么、输出什么”,而智能体安全进一步解决“Agent是谁、能调用什么、执行了什么、影响了哪些数据和业务,以及出现异常后能否及时中断和追溯”。

因此,智能体安全并不是替代传统大模型安全,而是在模型安全能力基础上进一步向任务和行动链延伸。