开发者文档

安装前准备

你至少需要准备什么

在源码仓库里使用 OmniStudio Linux CLI 之前,至少要先准备好一个 Linux runtime backend。

当前 Linux 常见 backend 包括:

  • llama.cpp-linux
  • llama.cpp-linux-rocm
  • llama.cpp-linux-vulkan
  • llama.cpp-linux-s390x
  • llama.cpp-linux-openvino

源码仓库的典型准备方式

git clone https://github.com/omnimind-ai/OmniInfer.git
cd OmniInfer
git submodule update --init --recursive framework/llama.cpp
bash ./scripts/platforms/linux/build-llama-cpu.sh

如果你已经拿到带 runtime/ 的打包版本,则不需要再自己构建 backend。

运行环境建议

  • Python 3
  • cmake
  • Linux x86_64 或 s390x 环境
  • 至少 8GB RAM,建议 16GB 以上

如果你打算使用 ROCm、Vulkan 或 OpenVINO,还需要对应的运行时和工具链。

OmniMind

万象智维

Omni Studio 公众号二维码

公众号

Omni Studio 小红书二维码

小红书

© 2025 万象智维科技有限公司. All rights reserved.

京ICP备2025136340号-1