搭建本地 AI 应用栈:Ollama + OpenWebUI + LlamaFactory 入门指南
本地环境的模型搭建和微调是一个复杂的过程,涉及多个组件的安装和配置。本文将介绍如何使用 Ollama、OpenWebUI 和 LlamaFactory 来搭建一个 …
CycleUser本地环境的模型搭建和微调是一个复杂的过程,涉及多个组件的安装和配置。本文将介绍如何使用 Ollama、OpenWebUI 和 LlamaFactory 来搭建一个 …
Ubuntu 24.04 作为宿主机,运行 VMware Workstation/Player 虚拟机(如 Windows 系统),但按下物理键盘上的 Windows 键(Super 键) 时,宿主机 GNOME 桌面会响应(如打开“活动概览 …
在某些场景中,可能就需要一个不依赖系统环境、无需管理员权限、可随意复制移动的 Python 环境。这种需求催生了“绿色化”(Portable)Python …
某企业最近10月14日发布的 KB5066835 安全更新,结果安装之后,我的机器上USB就不能使用了,简直无语。后来又有一个 KB5070773 更新,据说能解决 WinRE 环境中 USB 设备无法 …
平时有一些简单需求,已经不太去找现成的工具了,而是习惯于先试着写个简单的代码来实现一下。在GNU Linux下倒还好,可以直接用虚 …
很多朋友可能也在用Ollama来下载和管理模型,下载速度还不错,而且功能也简便,最新版本的Ollama更是提供了一个简洁的GUI,可以直接选择模型对话,还能地对模型下载位置 …
大模型的使用,如果仅局限于简单对话,其实是很难发挥出全部效用的,也很难构成完整的生产力。
组织和编排才是更高效 …
现在本地部署的大模型,有可能有一个问题,就是经常是是“真空中的模型”,不具备当前环境的“感知”,很难用于回答与本机与 …
上次的小模型批量测试对于需要速度的场景来说也就是可以看个乐,对于需要质量的情况来说,可能就完全不够看了,毕 …
谷歌最近刚发了gemma3:0.27b,也就是gemma3:270m的版本,这个可是比qwen3:0.6b还要轻量级很多。 这个版本的在线测评倒是不少了,但正如之前咱们谈论过的,在线 …
Page 1 / 11 »