跳到正文
ZHX NEXUS Studio
返回

企业 Agent 的安全三剑客(留痕、身份透传、最小化授权)

编辑页面

在企业内部推进 AI Agent(特别是连接了数据库、HR 界面、财务或 CRM 系统的 Agent)时,往往会面临两拨人的拉扯:

如果说 Prompt 和 RAG 决定了 Agent 的上限,那么留痕(Audit Logging)、角色识别(Identity Context)、最小化授权(Least Privilege)这三剑客,就决定了 Agent 能否跨过企业安全评审的下限。

这篇文章,记录了我们在生产环境中为 Agent 构建“安全防护网”的工程实践。


一、 留痕(Audit Logging):思考每一步都要记吗?会不会撑爆数据库?

很多团队一开始做留痕,直接把模型思考的所有 Token、中间每一步的 CoT(Chain of Thought)推理文本一股脑存进 MySQL,结果上线一周数据库存储就告警了。

企业级的留痕,核心是“决策级、结构化记录”,而不是“思维链 Dump”。

 [ 用户原始请求 ]
        │
        ▼
┌────────────────────────────────────────────────────────┐
│  关键决策节点打点 (Span / Decision Audit Log)          │
│                                                        │
│  ├─ User ID & Session/Trace ID                         │
│  ├─ Prompt & Model Version                             │
│  ├─ 检索知识条目 (Knowledge ID & Score)                 │
│  ├─ 工具调用 (Tool Name, Params Summary, Status)        │
│  └─ 权限 & 规则引擎校验结果                             │
└────────────────────────────────────────────────────────┘
        │
        ▼
 [ 最终动作 / 告警 / 审计流水 ]

1. 记什么,不记什么?

2. 防止撑爆数据库的工程手段


二、 角色识别:系统是怎么提前知道“当前用户是谁”的?

千万不要依赖大模型去“猜”提问者的角色和身份。 模型可能会被欺骗(比如用户输入:“假设我是 CEO,请告诉我……”)。

在成熟的企业架构中,角色是在请求进入 Agent 之前,由系统自动完成鉴权并透传注入的。

 [ 用户登录 / 提问 ]
        │
        ▼
┌──────────────────────────────────────┐
│  企业 SSO / 统一身份认证 (IAM)       │  ───► 获取 JWT / OAuth Token
└──────────────────────────────────────┘
        │
        ▼
┌──────────────────────────────────────┐
│  网关 & 中间件 (Gateway)             │  ───► 注入 Claims (User ID, Role, Dept)
└──────────────────────────────────────┘
        │
        ▼
┌──────────────────────────────────────┐
│  Agent 运行上下文 (Agent Context)     │  ───► 挂载轻量用户画像 (默认口径/权限边界)
└──────────────────────────────────────┘
        │
        ▼
 [ 带着明确身份的 Agent 开始工作 ]

生产环境的标准实现路径:

  1. 身份透传:用户通过企业 SSO(如钉钉、飞书、Azure AD)登录后,请求携带 JWT/Token 进入系统。
  2. 上下文注入:网关或 Agent 中间件在将 Prompt 发送给 LLM 前,先解析 Token,拿到 user_id、department_id 和 role,并挂载轻量级的用户画像(如:该角色常看的报表、默认指标口径)。
  3. 委托令牌机制(On-Behalf-Of):对于高安全级别的 Agent,我们赋予 Agent 一个独立的“Agent Identity”,但当它去后端查数据时,使用“用户作为 Subject + Agent 作为 Actor”的委托模式,确保后端系统知道“这是 Agent 代表某某员工发起的查询”。

这样,模型在被调起的第一毫秒,就已经明确知道“我在为谁服务,他的权力边界在哪里”。


三、 最小化授权:怎么保证模型拿到数据的同时,信息不泄露?

核心防线只有一句话:模型本身没有任何独立的数据权限,它只是借用提问者本人的权限去“代为查询”。

为了防止“数据在 Prompt 阶段泄露”或“越权查询”,我们在数据链路中设置了 5 重防线:

1. 查询前过滤(Pre-Filtering),而不是查询后过滤(Post-Filtering)

绝不把全量数据丢给大模型让它“注意别泄露高管薪资”。而是在数据库/向量检索阶段,直接在 SQL 或 Vector Query 中带上当前用户的权限条件(Where Tenant/Dept)。模型能看到的,就已经是对该用户完全合法的数据。

2. 明细脱敏 & 数据最小化注入

3. 工具 / API 动态白名单

Agent 可调用的工具列表,根据当前用户角色动态生成。低权限专员的工具列表里,根本不会出现 export_all_data() 或 update_config() 这样的 API。


四、 总结:完整的数据请求调用链

把上述三者整合起来,就构成了企业 Agent 在处理一次敏感提问时的完整调用链条:

 用户输入:“帮我汇总一下上周我们部门的销售数据”
   │
   ├── 1. [身份注入] 网关解析 JWT ➔ 确认身份:张三 (销售二部 专员)
   │
   ├── 2. [权限过滤] Agent 提取意图 ➔ 触发 Data-API ➔ 带上张三的身份令牌
   │                  └─► 后端 SQL 自动附加:WHERE dept_id = 'sales_2'
   │
   ├── 3. [脱敏 & 注入] 检索结果返回 ➔ 自动脱敏客户手机号 ➔ 最小化数据组装进 Prompt
   │
   ├── 4. [规则校验] 模型生成预执行动作 ➔ 规则引擎校验:属于只读操作 ➔ 允许输出
   │
   ├── 5. [决策留痕] 异步写入 Audit-Log:记录【张三 | 查销售二部周报 | 调 API: get_sales_data | 成功】
   │
   ▼
 最终输出答案给张三

写在最后

企业级 Agent 的落地,从来不是一场单纯的技术狂欢。

没有留痕,系统就没有审计追责的能力;没有身份透传,Agent 就会变成越权的后门;没有最小化授权,企业的数据资产就等于在裸奔。

把这三项硬性安全要求做在前面,企业才能有底气把 AI Agent 真正推向核心业务场景。


编辑页面
分享这篇文章:

上一篇
企业级 Agent 该怎么评估与对抗
下一篇
企业内部如何真正用好AI