Rust に生まれ変わった NeMo Switchyard v0.2.0 を試してみた
2026.08.12 10:52
Classmethod.jp
NVIDIA NeMo Switchyard v0.2.0が登場し、Pythonから Rust に生まれ変わりました。cargo installで起動でき、閾値2つの較正で「タスクごとに最適なモデルを選ぶ」自動ルーティングが実現します。1ヶ月半の運用を通じて見えた、難問の品質保護より「定型作業を高価なモデルに流さない」価値と、30B特化型モデルの時代へ向かうアーキテクチャの可能性をまとめました。