グラボ無し!5年前の Windows 機で8B LLMが快速CPU推論!「 Trillim + Ternary Bonsai 」ハンズオン
2026.04.24 22:58
Zenn.dev
※モデル形式やトークナイザ、量子化手法により実サイズは前後する 性能に関する公式主張 PrismMLの発表では、同等タスクにおいて、より大きなモデルに匹敵する性能とされている。 ただし、これは公式ベンチマークベースの結果であり、実運用やローカル環境でどこまで再現できるかは別途検証が必要である。 でも出たばっ...