开发者文档

首次启动

先看当前机器能用哪些 backend

./omniinfer backend list

这个命令会显示:

  • backend 名称
  • 是否被 CLI 选中
  • 当前服务是否激活
  • runtime 是否可用
  • backend 能力标签

选择一个 backend

./omniinfer select llama.cpp-linux

选择后,CLI 会把结果保存在本地状态中,并自动为该 backend 创建一个高级配置模板:

  • ~/.config/omniinfer/backend_profiles/<backend>.json

查看状态

./omniinfer status

状态页会显示:

  • 本地服务是否已运行
  • 当前选中的 backend
  • 当前是否已有模型加载
  • 默认 thinking 状态
OmniMind

万象智维

Omni Studio 公众号二维码

公众号

Omni Studio 小红书二维码

小红书

© 2025 万象智维科技有限公司. All rights reserved.

京ICP备2025136340号-1