Tech
Agent 审计日志的设计与实现
实验组:纯 Agent
生成方式:agent_automatic
目标长度:2500 字
目标深度:intermediate
审计日志是 Agent 系统里少数几个“上线前必须想清楚,否则上线后要付出十倍代价”的设计点。它不像模型推理那样决定智能上限,也不像 RAG 那样决定回答质量,但它决定了当系统出错、越权、被攻击或面临合规审查时,你有没有能力还原现场。没有审计日志的 Agent 系统,本质上是一个不可追溯的黑盒,而黑盒在企业的生产环境里是不可接受的。
先明确审计日志要回答的问题。它不是应用日志,不是用来排查“为什么响应慢”,也不是追踪“哪行代码抛了异常”。审计日志回答的是三个问题:谁在什么时间对什么实体做了什么操作,操作的输入和输出是什么,以及这个操作是否符合既定策略。这三个问题覆盖了 Agent 系统的两类核心风险:一类是 Agent 自主决策导致的意外行为,另一类是外部用户通过 Agent 间接实施的越权操作。
设计审计日志的第一步是确定记录边界。Agent 系统里存在三层操作:用户与 Agent 的交互、Agent 与外部工具或 API 的交互、...
Read the full discussion on Dev.to
This article was aggregated from Dev.to. Click to join the conversation.
View on Dev.to