大模型的使用,如果仅局限于简单对话,其实是很难发挥出全部效用的,也很难构成完整的生产力。
组织和编排才是更高效率的途径,就像是蚂蚁蜜蜂乃至人类社会,都是通过组织和编排而呈现出更高级的创造力的。
类似场景下的工具很多,目前比较流行的大概是dify和coze等等,还有一个今天要提及的n8n[1] 是一个开源的编排工具,可以轻松实现将大模型融入到复杂的任务编排当中。
ollama 配置
要让局域网的机器通过api访问本地的模型,需要先配置ollama,目前最新版本的ollama的图形界面中打开设置,如下图所示打开外部访问:

n8n安装
n8n的安装稍微复杂一点,这几天一个同学就非常纠结,于是我给他写了个简单的一键安装脚本,用于在Ubuntu24.04系统上快速安装一个本地版本的n8n:
wget http://blog.cycleuser.org/n8n.shchmod +x n8n.shsudo ./n8n.sh
要注意上面的脚本是基于Ubuntu24.04的,其他系统需要自行修改;另外,由于考虑的是局域网本地安装,上面的脚本安装选项并不适合大规模生产环境使用,而且安全性也设置得很低。
以虚拟机中的Ubuntu24.04为例,安装完了上面的脚本后,会自动启动n8n服务,然后可以通过ip:5678来访问n8n。

访问n8n,可以看到n8n的界面,用户名密码都是自行创建了,此处不表。 单说Ollama的配置,在n8n的节点中添加ollama节点,并填写ollama的ip和端口,然后就可以使用,如下图所示:

然后如果没出错,就可以选择一个模型:

保存好设置之后,测试一下,就能用了:

简单的对话,很难全面发挥大模型的价值,编排工作流可能是进阶场景的必由之路。
References
[1] n8n: https://github.com/n8n-io/n8n
预览时标签不可点
Close
更多
Name cleared
微信扫一扫赞赏作者
Like the AuthorOther Amount
赞赏后展示我的头像
作品
暂无作品
Like the Author
Other Amount
¥
最低赞赏 ¥0
OK
Back
Other Amount
更多
赞赏金额
¥
最低赞赏 ¥0
1
2
3
4
5
6
7
8
9
0
.
大语言模型 · 目录
大语言模型
上一篇让大语言模型“感知世界”-通过ModelSensor 获取并传递日期、时间、位置等信息下一篇Ollama模型排行榜-查看下载量、参数规模、更新时间和模型标签
Close
更多
搜索「」网络结果
Close
调整当前正文文字大小
更多
100%