大模型的使用,如果仅局限于简单对话,其实是很难发挥出全部效用的,也很难构成完整的生产力。
组织和编排才是更高效率的途径,就像是蚂蚁蜜蜂乃至人类社会,都是通过组织和编排而呈现出更高级的创造力的。
类似场景下的工具很多,目前比较流行的大概是dify和coze等等,还有一个今天要提及的n8n 是一个开源的编排工具,可以轻松实现将大模型融入到复杂的任务编排当中。
ollama 配置
要让局域网的机器通过api访问本地的模型,需要先配置ollama,目前最新版本的ollama的图形界面中打开设置,如下图所示打开外部访问:
n8n安装
n8n的安装稍微复杂一点,这几天一个同学就非常纠结,于是我给他写了个简单的一键安装脚本,用于在Ubuntu24.04系统上快速安装一个本地版本的n8n:
wget http://blog.cycleuser.org/n8n.sh
chmod +x n8n.sh
sudo ./n8n.sh
要注意上面的脚本是基于Ubuntu24.04的,其他系统需要自行修改;另外,由于考虑的是局域网本地安装,上面的脚本安装选项并不适合大规模生产环境使用,而且安全性也设置得很低。
以虚拟机中的Ubuntu24.04为例,安装完了上面的脚本后,会自动启动n8n服务,然后可以通过ip:5678
来访问n8n。
访问n8n,可以看到n8n的界面,用户名密码都是自行创建了,此处不表。 单说Ollama的配置,在n8n的节点中添加ollama节点,并填写ollama的ip和端口,然后就可以使用,如下图所示:
然后如果没出错,就可以选择一个模型:
保存好设置之后,测试一下,就能用了:
简单的对话,很难全面发挥大模型的价值,编排工作流可能是进阶场景的必由之路。