Tech
[AI Agent 智能体] 话说在 Codex 或者 Claude Code 里开 Plan 的时候,有人会给 agent veto 用户决策的想法吗?
我自己倒是会在一些决策不确定或者风险比较大的时候会给个大概我偏好的思路,然后再跟 agent 说他可以 veto 我的决策。 一开始大概可能先让 agent 在 Plan 的时候探路问我问题,不过后来发现很多时候哪怕探路也有点信息不足,问题里一般是三选一或者让我给出自己的思路,在早期的项目里这个还算能用,等复杂度上去了就不由自主会说比如「我偏好 A ,但是如果 A 太复杂,就选 B 」,或者「如果 A 不能够实现,回退到 B 」。 然后后来发现有的时候似乎 Plan 本身在一些关键问题的决策上也变得更微妙,或者大概是问题里我自己的判断和理解有限,有时候会说「让 agent 再探一轮路后再问我问题」,但有的时候再多探一轮路还是没法解决问题,然后不知啥时候就开始试着跟 agent 说「我偏好 A ,但是如果你有充分的证据,你可以 veto 我」。 今天遇到的另一个稍微不同但蛮典型的例子,是三个问题里,第一个问题的 A1 我觉得偏保守,我更偏好 B1 ,但是第二个问题里的 A2 和 B2 之间的复杂度会明显拉开差距,而 C2 几乎会让整个 Plan 的命题改变,然后我意识到 A1 哪怕...
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX