大模型已成日常刚需:当在线服务存在不稳定性,我们或许该考虑本地部署的时机、路线与成本
Sat 03 October 2026
·
LLM
当做地球科学的同学也开始关心模型的价格,大概说明大模型已经成了很多人日常工作的一部分。而这段时间在线服务 …
当做地球科学的同学也开始关心模型的价格,大概说明大模型已经成了很多人日常工作的一部分。而这段时间在线服务 …
我手里这台机器是 Apple M4,10 核 CPU,16 GB 内存。这种配置想跑本地大模型,要想不影响其他工具的日常运行,就不能全都跑慢,粗 …
16G 显存的取舍我写过一篇,这回把档次再往下压:手里只有一张 8G 的卡——RTX 3070、4060、2060 Super,或者 4070 Laptop 这 …
不是每个人都有 24G、32G 的卡。手里一张 16G 的 RX 6800 XT、RTX 4060Ti 16G、5060Ti 16G,或者笔记本上的 16G 显卡,同样想跑 …
本地模型这两年发展得太快:从"只能跑个 …
想跑本地模型的人,几乎都会卡在同一个问题上:显存到底买 …