运行时目录
源码仓库模式
源码仓库默认把 Linux runtime 放在:
.local/runtime/linux/<backend>/
例如:
.local/runtime/linux/llama.cpp-linux/
典型子目录包括:
bin/logs/models/build/
打包发布模式
如果你使用的是带 runtime 的发布包,则 runtime 根目录通常是:
runtime/
发布包内再按 backend 拆分子目录。
当前查找顺序
OmniInfer 会优先考虑:
- 显式配置的 runtime 根目录
- 发布包内的
runtime/ - 源码仓库内的
.local/runtime/linux/
排查路径问题时,请优先检查这套目录约定,而不是旧的 platform/... 结构。



