真正的生产力-本地大模型编排工具n8n调用局域网上的Ollama模型

大模型的使用,如果仅局限于简单对话,其实是很难发挥出全部效用的,也很难构成完整的生产力。

组织和编排才是更高效率的途径,就像是蚂蚁蜜蜂乃至人类社会,都是通过组织和编排而呈现出更高级的创造力的。

类似场景下的工具很多,目前比较流行的大概是dify和coze等等,还有一个今天要提及的n8n[1] 是一个开源的编排工具,可以轻松实现将大模型融入到复杂的任务编排当中。

ollama 配置

要让局域网的机器通过api访问本地的模型,需要先配置ollama,目前最新版本的ollama的图形界面中打开设置,如下图所示打开外部访问:

Image

n8n安装

n8n的安装稍微复杂一点,这几天一个同学就非常纠结,于是我给他写了个简单的一键安装脚本,用于在Ubuntu24.04系统上快速安装一个本地版本的n8n:

wget http://blog.cycleuser.org/n8n.shchmod +x n8n.shsudo ./n8n.sh

要注意上面的脚本是基于Ubuntu24.04的,其他系统需要自行修改;另外,由于考虑的是局域网本地安装,上面的脚本安装选项并不适合大规模生产环境使用,而且安全性也设置得很低。

以虚拟机中的Ubuntu24.04为例,安装完了上面的脚本后,会自动启动n8n服务,然后可以通过ip:5678来访问n8n。

Image

访问n8n,可以看到n8n的界面,用户名密码都是自行创建了,此处不表。 单说Ollama的配置,在n8n的节点中添加ollama节点,并填写ollama的ip和端口,然后就可以使用,如下图所示:

Image

然后如果没出错,就可以选择一个模型:

Image

保存好设置之后,测试一下,就能用了:

Image

简单的对话,很难全面发挥大模型的价值,编排工作流可能是进阶场景的必由之路。

References

[1] n8n: https://github.com/n8n-io/n8n

预览时标签不可点

Close

更多

Name cleared

赞赏二维码微信扫一扫赞赏作者

Like the AuthorOther Amount

赞赏后展示我的头像

作品

暂无作品

Like the Author

Other Amount

¥

最低赞赏 ¥0

OK

Back

Other Amount

更多

赞赏金额

¥

最低赞赏 ¥0

1

2

3

4

5

6

7

8

9

0

.

大语言模型 · 目录

大语言模型

上一篇让大语言模型“感知世界”-通过ModelSensor 获取并传递日期、时间、位置等信息下一篇Ollama模型排行榜-查看下载量、参数规模、更新时间和模型标签

Close

更多

搜索「」网络结果

Close

调整当前正文文字大小

更多

100%