【検証】Tesla V100 32GBでQwen3.8-27Bは動くか？128kコンテキストが1枚に載った実測ベンチマーク
2017年のTesla V100 32GBでQwen3.8-27Bを実測。Q4_K_XLで33.41 tok/s、131,072トークンのコンテキストが25,264 MiBで1枚に載りました。KV量子化のCPUフォールバック、--reasoning-budget 1024が実用性を決める理由まで、実測データで検証します。
2017年のTesla V100 32GBでQwen3.8-27Bを実測。Q4_K_XLで33.41 tok/s、131,072トークンのコンテキストが25,264 MiBで1枚に載りました。KV量子化のCPUフォールバック、--reasoning-budget 1024が実用性を決める理由まで、実測データで検証します。