Qwen3.5出来了，其中Qwen3.5:30b-a3b 非常好用，适合本地设备，不过需要最新的 0.17.1 以上的版本，才可以使用，本文简单介绍手动在Ubuntu上的部署。

1. 卸载旧版本（关键前置步骤）

# 停止所有 Ollama 进程
sudo systemctl stop ollama 2>/dev/null
pkill -f ollama || true

# 删除旧二进制文件
sudo rm -f /usr/bin/ollama

# 清理残留服务（如有）
sudo systemctl disable ollama 2>/dev/null
sudo rm -f /etc/systemd/system/ollama.service
sudo systemctl daemon-reload

2. 准备工作

# 更新系统 & 安装依赖
sudo apt update
sudo apt install -y curl zstd

# 验证架构（必须为 x86_64）
[ "$(uname -m)" = "x86_64" ] && echo "✓ 架构验证通过" || echo "✗ 非 amd64 架构，安装将失败"

3. 下载并安装正式版

cd ~/Downloads

# 下载官方正式版（无 rc 标识！）
curl -LO https://github.com/ollama/ollama/releases/download/v0.17.1/ollama-linux-amd64.tar.zst

# 安装到系统目录
sudo tar -C /usr -xvf ollama-linux-amd64.tar.zst --zstd

# 验证安装
ls -l /usr/bin/ollama
which ollama  # 应输出：/usr/bin/ollama

4. 配置 Systemd 服务

# 创建服务文件（自动替换当前用户名）
cat <<EOF | sudo tee /etc/systemd/system/ollama.service > /dev/null
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
User=$(whoami)
Group=$(whoami)
ExecStart=/usr/bin/ollama serve
Restart=always
RestartSec=3
Environment="PATH=/usr/bin:/usr/local/bin"
Environment="OLLAMA_HOST=127.0.0.1"  # 仅本地访问（安全推荐）
Environment="OLLAMA_MODELS=/usr/share/ollama/.ollama/models"

[Install]
WantedBy=default.target
EOF

5. 启动服务并验证

# 重载 systemd
sudo systemctl daemon-reload
# 启动服务
sudo systemctl start ollama
sudo systemctl enable ollama

# 等待服务初始化（约5秒）
sleep 5

# 检查服务状态
sudo systemctl status ollama --no-pager -l

# 验证版本（关键！应无任何警告）
ollama --version
# 正确输出示例：
# ollama version is 0.17.1
# （无 "Warning: client version is..." 提示）

# 验证客户端与服务端一致
curl http://127.0.0.1:11434/api/version 2>/dev/null | grep -o '"version":"[^"]*"'
# 应返回: "version":"0.17.1"

6. 功能测试（可选）

然后运行ollama run qwen3.5:35b-a3b --verbose "写一段Python代码计算水仙花数"来测试一下：

$ ollama run qwen3.5:35b-a3b  --verbose "写一段Python代码计算水仙花数"
Thinking...
# 中间步骤省略了。
total duration:       1m24.585596458s
load duration:        11.011404573s
prompt eval count:    18 token(s)
prompt eval duration: 320.235145ms
prompt eval rate:     56.21 tokens/s
eval count:           739 token(s)
eval duration:        1m12.916437305s
eval rate:            10.13 tokens/s

7. 常见问题排查

问题现象	解决方案
`Warning: client version is...`	`sudo systemctl restart ollama && hash -r`
服务启动失败	`journalctl -u ollama -n 50 --no-pager` 查看日志
权限错误	`sudo chown -R $USER:$USER /usr/share/ollama/.ollama`
端口占用	`sudo lsof -i :11434` 检查冲突进程

关键说明 版本一致性保障：通过 systemctl restart 确保服务端使用新二进制，彻底避免客户端/服务端版本不匹配警告 局域网共享建议：OLLAMA_HOST=127.0.0.1 限制仅本地访问，如需远程访问请修改为 0.0.0.0 并配置防火墙 模型存储：新版本现在所有模型统一存于 ~/.ollama/models，便于备份管理

最后验证：执行 ollama --version 仅输出 Ubuntu 手动安装 Ollama 0.17.1+来运行 qwen3.5:35b-a3b 的详细指南 即表示安装成功

预览时标签不可点

Name cleared

微信扫一扫赞赏作者

Like the AuthorOther Amount

赞赏后展示我的头像

作品

暂无作品

Like the Author

Other Amount

最低赞赏 ¥0

Back

Other Amount

赞赏金额

最低赞赏 ¥0

大语言模型 · 目录

大语言模型

上一篇大语言模型的底层-优化器详解下一篇大语言模型里面的token的含义和源流

搜索「」网络结果

调整当前正文文字大小

100%

Qwen3.5出来了，其中Qwen3.5:30b-a3b 非常好用，适合本地设备，不过需要最新的 0.17.1 以上的版本，才可以使用 ，本文简单介绍手动在Ubuntu上的部署。