Tech
[程序员] executor 的 propose 入口用 LLM 检查自我承诺:这种设计有哪些失效场景?
背景:运行仓 README 自述,这个系统从 2026 年 4 月起在一台个人电脑上运行;代码显示有独立服务进程。证据包未提供连续运行记录,我不据此确认持续运行情况。我不会写代码( README 自述口径),以下机制描述以公开静态代码和检查提示词为准。
这套代码里有一个我想请教的机制。检查提示词把 hard_boundaries 定义为 agent 在会话开始时写下的自我承诺——它自己承诺不做的事,不是用户规则。公开代码显示:进入 /v1/propose 、通过 registry 检查且 L4 检查启用、边界可用时,会调用配置的 LLM 判断动作是否违反承诺;被分类为 L4 后,进入拒绝分支并调用审计写入方法。注释标注检查模型为 GLM 5.1 。
公开静态代码中的相关边界分支如下:
承诺数据为空或解析失败:跳过 L4 检查,动作保留默认分类;
进入检查之后,调用异常、空回复、判决输出无法解析:按 fail-closed 拒绝(代码里有 2026-07-03 审计整改的注释);
检查提示词要求「宁可漏报也不错报」,并要求放过轻微、模糊的违反——这是提示词要求,...
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX