タグ: 量子化

【検証】RTX 4080 32GB改造品の実力：Qwen3.8-27Bの262K・125B MoE・MiniMax H3動画生成を実測レビュー

中国市場で流通するRTX 4080の32GB改造品を実機検証。Qwen3.8-27BのQ8_0が全層GPUに収まり22.47 tok/s、ネイティブ262,144トークンもKV q8_0により26,240MiBで動作。生成速度はTesla V100 32GBと同等ながらprefillは最大3.2倍。125B MoE（Qwen3.8-Flash-Next）のCPU併用やMiniMax H3動画生成、16GB/24GB制限時の挙動まで詳しく測定しました。