Ollama 小尺寸模型的工具调用能力评测
Mon 10 August 2026
·
LLM
对于老鸟来说,本地部署模型,肯定是vllm或者sglang又或者llama.cpp之类的。 但对新手来说,可能还是Ollama更为友好简单。 考虑到很多古老设备可能未必有高性能的GPU,而 Ollama 上 …
对于老鸟来说,本地部署模型,肯定是vllm或者sglang又或者llama.cpp之类的。 但对新手来说,可能还是Ollama更为友好简单。 考虑到很多古老设备可能未必有高性能的GPU,而 Ollama 上 …