画像も読める 120B の MoE「Nemotron 3.5 Super VL 120B-A12B」を DGX Spark で動かしてみた

ツイート

画像も読めるようになった Nemotron 3.5 Super VL 120B-A12B NVFP4 を、モデルカードの DGX Spark 向け vLLM レシピのまま動かしました。1M コンテキストの既定で起動し、LiLiCorr で単発 38 tok/s。日本語・コード・ツール・画像を Bolt と同じ課題で測りました。