Tech
[程序员] 真的不建议任何人用中转 2
前文: https://v2ex.com/t/1205344
上次聊的是价格和安全性,这次说说使用体验
本文(及前文)的中转特指各种类型的廉价中转,不包括 openrouter / cloudflare ai gateway 之类的商业中转
自 GPT 5.6 发布以后 Pro 20x 已经不够我用了,就开始尝试了一些中转用作套餐耗尽时的补充,体验就两个字:糟糕
问题一:速度
首先最大的问题就是速度,GPT 5.6 Sol 官方的平均 TTFT 大概是在 3-4s ,但是中转的往往在这里能慢上数倍,我尝试了几个中转,普遍的平均 TTFT 都能达到 10s 以上,甚至有遇到过一些请求偶尔能达到 2min 之久
对于 Coding 会话,一个小任务的 prompt 可能至少都有个 20 轮左右的工具调用,单纯因为中转的开销就达到了数分钟 —— 并且事实上在我的体验中,单纯的平均数值没有太大的意义,反而是长尾延迟会更大的放大中转带来的时间成本,可能一个官方 API 10min 就能完成的任务中转要半小时甚至更久
而且比较可笑的是,某些中转「可以使用...
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX