设置说明

OmniInfer Gateway 支持通过配置文件、命令行参数和环境变量进行设置。
桌面客户端通常会隐藏这些细节，但开发和排障时仍然值得了解。

关键配置项

当前更稳定的配置重点包括：

配置项	说明
host	Gateway 监听地址
port	Gateway 监听端口，默认常见为 9000
default_backend	启动时默认选择的 backend
default_thinking	默认 thinking 开关
window_mode	控制窗口可见性
startup_timeout	backend 启动超时
runtime_root	runtime 根目录
backends	按 backend 细分的覆盖配置

常见命令行参数

python3 omniinfer_gateway.py --host 127.0.0.1 --port 9000

常见参数包括：

• --host
• --port
• --default-backend
• --default-thinking
• --force-backend
• --window-mode
• --verbose
• --debug-body
• --startup-timeout

runtime 路径设置

当前不再建议围绕旧的 platform/... 目录写路径说明。
优先使用：

• .local/runtime/windows/<backend>/
• .local/runtime/macos/<backend>/
• runtime/<backend>/

环境变量覆盖

不同 backend 会使用各自的平台前缀。

例如 Windows CPU backend 常见变量形如：

• OMNIINFER_LLAMA_CPP_CPU_LAUNCHER_PATH
• OMNIINFER_LLAMA_CPP_CPU_MODELS_DIR

桌面客户端通常会把这些细节包装起来，但对内部测试和问题定位仍然有帮助。