AI活用
ComfyUIのVRAM不足を直す|モデル・解像度・Batch・Offloadの切り分け
ComfyUIのVRAM不足は、CUDA OOM・共有メモリ退避・遅さを区別し、nvidia-smiでPeakを記録してから、Batch・解像度・Model・Control系・Offloadを一つずつ切り分けると直せる範囲が分かります。記録表つき。
AIとつくる、実践プログラミング・コーディングメディア
ARCHIVE
ComfyUIのVRAM不足は、CUDA OOM・共有メモリ退避・遅さを区別し、nvidia-smiでPeakを記録してから、Batch・解像度・Model・Control系・Offloadを一つずつ切り分けると直せる範囲が分かります。記録表つき。
ローカルLLMのモデル規模・量子化・contextによるメモリの考え方、GPUと統合メモリの違い、用途別の選び方、購入前チェックを解説します。