Tech
[Claude] 记录一个我使用 AI 过程中遇到的严重事故
工作过程中收到 ops 同事的邮件,我的办公室 ip 异常调用了$200 的昂贵模型,我的 ip 被临时 ban 了(非 pod 的 ip 段设置了报警)。 我的第一反应是 怎么会呢,我做的几个项目都没有用到 opus 的 api 只能在一堆 session 去检查,查了半天,最终找到了任务是「抽样小模型的结果,构建一个验证集,并打上你的判定标签减少人工工作量」的 session ,这个 session 写了一个新的请求脚本在/tmp 中,有--model 这个参数(是的,它没有硬编码 opus ,所以那么难找)。 往上翻记录,Claude Code 虽然没有给完整思维链,但每一步给的 Summary 也足够我弄懂整个事件的链条了: 1. Agent 拿到任务第一时间选择查看结果是怎么产生的 2. Agent 发现代码用的 ds 4.1 flash ,判断验证集标签需要用更准的模型 3. Agent 尝试查询公司 LLM 网关所有可用模型,并在这一步找到了我的 key ,并把把 key 路径写入环境变量,而且发现了可用模型里面有 opus 5.5 (好吧,其实还有 Astra ,...
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX