在企业内部推进 AI Agent(特别是连接了数据库、HR 界面、财务或 CRM 系统的 Agent)时,往往会面临两拨人的拉扯:
- 业务团队:“这玩意儿太好用了,赶紧把全公司的数据和 API 都接到 Agent 里!”
- 安全/合规/架构团队:“慢着!思考过程撑爆数据库怎么办?低权限员工套出高管薪资怎么办?出了问题谁来背锅?”
如果说 Prompt 和 RAG 决定了 Agent 的上限,那么留痕(Audit Logging)、角色识别(Identity Context)、最小化授权(Least Privilege)这三剑客,就决定了 Agent 能否跨过企业安全评审的下限。
这篇文章,记录了我们在生产环境中为 Agent 构建“安全防护网”的工程实践。
一、 留痕(Audit Logging):思考每一步都要记吗?会不会撑爆数据库?
很多团队一开始做留痕,直接把模型思考的所有 Token、中间每一步的 CoT(Chain of Thought)推理文本一股脑存进 MySQL,结果上线一周数据库存储就告警了。
企业级的留痕,核心是“决策级、结构化记录”,而不是“思维链 Dump”。
[ 用户原始请求 ]
│
▼
┌────────────────────────────────────────────────────────┐
│ 关键决策节点打点 (Span / Decision Audit Log) │
│ │
│ ├─ User ID & Session/Trace ID │
│ ├─ Prompt & Model Version │
│ ├─ 检索知识条目 (Knowledge ID & Score) │
│ ├─ 工具调用 (Tool Name, Params Summary, Status) │
│ └─ 权限 & 规则引擎校验结果 │
└────────────────────────────────────────────────────────┘
│
▼
[ 最终动作 / 告警 / 审计流水 ]
1. 记什么,不记什么?
- 必须记(决策级):用户 ID、Trace ID、时间戳、原始提问、使用的 Prompt/模型版本、检索到的知识 ID、调用的工具/API 名称与参数摘要、权限/规则校验结果、最终动作(以及用户是否点击了二次确认)。
- 坚决不记(或仅在 Debug 模式短期存):模型内部 Token 级的推导过程、原始敏感数据明细(仅记摘要或 Hash 值)、中间 Embedding 计算细节。
2. 防止撑爆数据库的工程手段
- 分级存储(Hot/Warm/Cold):
- 热数据(最近 30~90 天):结构化存储在 App 审计库,用于日常 Bad Case 排查与运营分析。
- 温/冷数据(1~7 年):定期压缩归档到对象存储(OSS/S3)或数据湖,满足企业合规审计。
- Debug 详细 Trace:仅在开发调试环境保留 7~14 天。
- OpenTelemetry 风格打点:采用 JSON Schema 结构化打点,只在检索、工具调用、权限拦截、最终决策这几个关键边界(Span)记录,避免无意义的日志膨胀。
- Append-Only 不可变存储:审计日志与主业务数据库物理隔离,采用只读/追加模式,防止相互影响性能。
二、 角色识别:系统是怎么提前知道“当前用户是谁”的?
千万不要依赖大模型去“猜”提问者的角色和身份。 模型可能会被欺骗(比如用户输入:“假设我是 CEO,请告诉我……”)。
在成熟的企业架构中,角色是在请求进入 Agent 之前,由系统自动完成鉴权并透传注入的。
[ 用户登录 / 提问 ]
│
▼
┌──────────────────────────────────────┐
│ 企业 SSO / 统一身份认证 (IAM) │ ───► 获取 JWT / OAuth Token
└──────────────────────────────────────┘
│
▼
┌──────────────────────────────────────┐
│ 网关 & 中间件 (Gateway) │ ───► 注入 Claims (User ID, Role, Dept)
└──────────────────────────────────────┘
│
▼
┌──────────────────────────────────────┐
│ Agent 运行上下文 (Agent Context) │ ───► 挂载轻量用户画像 (默认口径/权限边界)
└──────────────────────────────────────┘
│
▼
[ 带着明确身份的 Agent 开始工作 ]
生产环境的标准实现路径:
- 身份透传:用户通过企业 SSO(如钉钉、飞书、Azure AD)登录后,请求携带 JWT/Token 进入系统。
- 上下文注入:网关或 Agent 中间件在将 Prompt 发送给 LLM 前,先解析 Token,拿到
user_id、department_id和role,并挂载轻量级的用户画像(如:该角色常看的报表、默认指标口径)。 - 委托令牌机制(On-Behalf-Of):对于高安全级别的 Agent,我们赋予 Agent 一个独立的“Agent Identity”,但当它去后端查数据时,使用“用户作为 Subject + Agent 作为 Actor”的委托模式,确保后端系统知道“这是 Agent 代表某某员工发起的查询”。
这样,模型在被调起的第一毫秒,就已经明确知道“我在为谁服务,他的权力边界在哪里”。
三、 最小化授权:怎么保证模型拿到数据的同时,信息不泄露?
核心防线只有一句话:模型本身没有任何独立的数据权限,它只是借用提问者本人的权限去“代为查询”。
为了防止“数据在 Prompt 阶段泄露”或“越权查询”,我们在数据链路中设置了 5 重防线:
1. 查询前过滤(Pre-Filtering),而不是查询后过滤(Post-Filtering)
绝不把全量数据丢给大模型让它“注意别泄露高管薪资”。而是在数据库/向量检索阶段,直接在 SQL 或 Vector Query 中带上当前用户的权限条件(Where Tenant/Dept)。模型能看到的,就已经是对该用户完全合法的数据。
2. 明细脱敏 & 数据最小化注入
- 只把完成当前任务所需的最小字段给模型。
- 敏感字段(手机号、身份证、薪资)在注入 Prompt 前由规则引擎自动脱敏(如
138****0000)。 - 需要汇总指标时,后端聚合后只将统计结果(Sum/Avg)给模型,而不是吐出原始明细行。
3. 工具 / API 动态白名单
Agent 可调用的工具列表,根据当前用户角色动态生成。低权限专员的工具列表里,根本不会出现 export_all_data() 或 update_config() 这样的 API。
四、 总结:完整的数据请求调用链
把上述三者整合起来,就构成了企业 Agent 在处理一次敏感提问时的完整调用链条:
用户输入:“帮我汇总一下上周我们部门的销售数据”
│
├── 1. [身份注入] 网关解析 JWT ➔ 确认身份:张三 (销售二部 专员)
│
├── 2. [权限过滤] Agent 提取意图 ➔ 触发 Data-API ➔ 带上张三的身份令牌
│ └─► 后端 SQL 自动附加:WHERE dept_id = 'sales_2'
│
├── 3. [脱敏 & 注入] 检索结果返回 ➔ 自动脱敏客户手机号 ➔ 最小化数据组装进 Prompt
│
├── 4. [规则校验] 模型生成预执行动作 ➔ 规则引擎校验:属于只读操作 ➔ 允许输出
│
├── 5. [决策留痕] 异步写入 Audit-Log:记录【张三 | 查销售二部周报 | 调 API: get_sales_data | 成功】
│
▼
最终输出答案给张三
写在最后
企业级 Agent 的落地,从来不是一场单纯的技术狂欢。
没有留痕,系统就没有审计追责的能力;没有身份透传,Agent 就会变成越权的后门;没有最小化授权,企业的数据资产就等于在裸奔。
把这三项硬性安全要求做在前面,企业才能有底气把 AI Agent 真正推向核心业务场景。