操作机:DSH 机 192.168.31.76 | 目标机:GPU 机 192.168.31.31(zywpc) 触发:用户「现在有了更多的模型和 lora,帮我先停用 LLM,启动 comfyui」 背景:16GB 显存,LLM 与 ComfyUI 必须错开(当前 LLM 侧已占 15.4GB/16GB)
| 项目 | 状态 |
|---|---|
| LM Studio 守护进程 | llmster(pid 416402)LISTEN 0.0.0.0:1234,无已加载模型 |
| llama 服务 | llama-ko-ridge active,llama-server(pid 516767)LISTEN 0.0.0.0:8080 |
| 其余单元 | lmstudio / llama-ridge / llama-ridge-long / llama-ko-ridge-fast 均 inactive |
| ComfyUI | 未运行(无 main.py 进程,8189 未监听) |
| 显存 | 15770 MiB / 16311 MiB(几乎占满) |
lms unload --all → No models to unload.(本就空闲,但守护进程占端口)bash ~/stop-ridge.sh → 已停止全部 LLM 服务,显存立刻回到 18 MiBsystemctl stop lmstudio 为 no-op(单元本就 inactive,进程是独立守护)→ 改用 echo yueling408 | sudo -S pkill -f "llmste[r]"
pkill -f "llmster",而该 pkill 所在的 ssh 命令行文本本身就含 "llmster" 字样,于是 pkill 把承载它的 shell 一起杀掉 → SSH 会话自断、后续输出全丢。以后一律写 llmste[r](方括号规避自匹配)。cd /home/zyw/ComfyUI && setsid nohup env \
PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:512,expandable_segments:True \
CUDA_VISIBLE_DEVICES=0 OMP_NUM_THREADS=4 \
venv/bin/python main.py --listen 0.0.0.0 --port 8189 \
--lowvram --force-fp16 --reserve-vram 1.0 --fast-disk \
--cache-lru 20 --preview-method none \
> /home/zyw/comfyui_8189_opt.log 2>&1 < /dev/null &
setsid + < /dev/null 确保 SSH 断开后进程不被 SIGHUP 带走(本轮实测:启动后重连仍在)。--use-sage-attention:SageAttention 与 GPU 掉总线(NV_ERR_GPU_IS_LOST)疑云未清,稳定优先。| 检查项 | 结果 |
|---|---|
| llama-server / llmster | 均已消失,1234 与 8080 无监听 |
| 显存 | 15770 MiB → 18 MiB(停 LLM 后);ComfyUI 起来后 154 MiB |
| 端口 8189 | LISTEN 0.0.0.0:8189 |
| ComfyUI 版本 | 0.34.0,frontend 1.51.9,templates 0.11.52 |
| system_stats | HTTP 200;RAM 空闲 29.8 GB |
| 启动日志 | To see the GUI go to: http://0.0.0.0:8189,ComfyUI-Manager 缓存已更新 |
| 局域网入口 | DSH 机 curl --noproxy '*' http://192.168.31.31:8189/ → HTTP 200 |
访问入口:http://192.168.31.31:8189
models/checkpoints/:27 个,125 GB(含 sd1.5/ 2 个、sdxl/ 5 个子目录)models/loras/:71 个,25 GB(含 h3/、krea/、minimax/ 子目录)按用途分布:
loras/h3/、loras/minimax/ 下 6 个 H3 turbo/FL2V/REF2V 加速 LoRA(含「H3 语音」相关)pkill -f "venv/bin/python main[.]py"(或 pkill -f "main[.]py")bash ~/switch-llm.sh [ridge-long|ridge-fast|ko-long|ko-fast](API http://192.168.31.31:8080/v1)echo yueling408 | sudo -S systemctl start lmstudio,然后 lms load qwen3.8-9b-heretic-uncensored-nvfp4 --gpu max --context-length 262144 -y(:1234)--noproxy '*'(本机 ALL_PROXY 会把局域网请求拐走)。