Files
MyAiDesk/GovAI/LocalLLM.md
T
freedak f7a720204a Update: 将子项目从 submodule 转为完整内容
- 移除 GovAI, nomifun-tauri, 算力盒子 的 submodule 引用
- 添加所有子项目的完整源代码
- 保留原始 .git 为 .git.bak 备份
2026-07-04 19:20:46 +08:00

256 B

Ctrl+C 停掉当前服务,用 -lv 3 启动(显示更详细日志)

~/llama.cpp/build/bin/llama-server \
  -m ~/models/qwen2.5-7b-instruct-q4_k_m-00001-of-00002.gguf \
  --host 0.0.0.0 \
  --port 18888 \
  -ngl 35 \
  --metrics \
  -lv 3