MoXing 是一个 Python 封装层，让 llama.cpp 更易用。

项目地址：https://github.com/cycleuser/MoXing

最开始其实就是为了在一台设备上用多个显卡运行多个模型，因 …