2026-09-03-GPU机离线根因分析.md

GPU 机离线事故根因分析(2026-09-03)

现象:用户反馈 ComfyUI 断开连接,随后确认整机(192.168.31.25 / zywpc)完全不可达。

结论:突发断电/电源故障导致整机掉电,ComfyUI 报错是结果而非原因

系统日志、内核日志、sar 资源记录、磁盘/journald 状态四方面交叉验证, 没有任何软件崩溃痕迹,全部证据指向突发断电(掉电)。


一、时间线重建(UTC,本地 = UTC+8)

时间 (UTC)事件
06:10 起CPU 活跃度从 0.1% 升至 2~3.5%(sar)→ 用户在用 ComfyUI 跑视频生成
06:24:24生成完成:0657… 前一个任务 062424_00001_audio.mp4(11.2MB)
06:57:21生成完成:065721_00001_audio.mp4(12.7MB)——最后一个成功任务
07:00:25最后一条系统日志(fwupd 例行刷新 + sysstat 采样),此后日志戛然而止
—无 shutdown / reboot / panic / OOM / hung task / Xid / thermal / MCE 任何记录
07:18:12RTC 时间连续(主板时钟未断,说明是电源切断而非 CMOS 问题)
07:18:34重新开机(boot 0)

二、关键证据

1. 掉电实锤:journald 自述 "uncleanly shut down"

本次启动日志:

systemd-journald: File .../system.journal corrupted or uncleanly shut down, renaming and replacing

非正常关机的直接证据(正常关机不会出现)。

2. 无任何软件/硬件错误记录

3. 死亡瞬间资源正常,排除过载

sar 采样(07:00:25,死亡瞬间):

4. WOL 无法唤醒 → 与完全断电一致

之前发 Wake-on-LAN 魔术包无效:断电状态下 PSU 无待机供电,网卡收不到魔术包, 与"完全断电"而非"休眠/挂死"吻合。

5. ComfyUI 死机时处于空闲

三、附带发现:PCIe 链路速率降级(需关注,非本次死机原因)

四、建议

  1. 排查电源(主因方向):
    • PSU 状态(是否有保护触发/老化);
    • 电源线、插排接触(同一电路是否有大功率设备启停引起闪断);
    • 考虑 UPS 或更换电源后观察。
  2. PCIe 链路:重新插拔显卡/检查槽位接触,确认后续开机能否恢复 32GT/s Gen5; 关注是否伴随 Xid/掉总线现象。
  3. ComfyUI 自启:建议配 systemd user unit,恢复供电开机后自动拉起 (本次断电后 8189 未自启,需手动 start_comfyui_v6.sh)。
  4. 复现监测:若再次出现无日志硬断,可加挂 UPS 的日志记录确认市电事件。
下载此文件