本地 GPU 模型
支持路径
当前高质量本地语义检索路径优先支持:
- Linux
- NVIDIA GPU
- conda 环境
安装
scibudy install-local-models
预热模型
scibudy warm-local-models --background
当前本地模型 profile
- embedding:
Qwen/Qwen3-Embedding-4B - reranker:
Qwen/Qwen3-Reranker-4B
验证
scibudy ingest-item <item_id> --reingest --skip-forums
scibudy search-evidence <library_id> calibration --format json
期望看到:
compute_backend: local_transformersemantic_backend: local_transformer+reranker