说实话最近工作没有太多需求,空下一些时间深夜做一些无所谓的 瞎想 。 众所周知的是,2023 年 gpt3 刚出来的时候大家可不像今天这么感觉大模型能完美替代几乎所有程序员工作。而 2023 年到现在也不过 3 年。那么,如果再把时间维度拉长到 3-5 年,我们的未来会是什么形态? 已知前提 : 模型的提升本质上实际上是信息密度提升,存在边际效应,但是从 2026 回看过去三年,已经提升很多,未来仍有一定提升空间。 nvdia 的硬件是存在高溢价的,仅从成熟制程集成电路技术的角度来说计算成本没有现在这么贵。 与大模型聊天后做出的推断性判断 : 已知过去三年间低端模型(个人用户的消费级硬件有潜在希望能运行的模型,例如 64B 及以下模型)的部署成本大概降低了 1000 倍。 高端模型( 1-1.5T 参数)所依赖的部署设备的成本,如果能够去掉类似 cuda 护城河和 nv 溢价的话,未来也不会下降太多,但是下降 5 倍是可能的(也就是说类似于企业部署满血 deepseek v4 pro ,目前的成本比如是 300 万一台机器的话,未来理想情况下...