DeepSeek V4.1 Flash 1017をAWSのG7eでセルフホストし、SGLangで生成速度をチューニングしてみた

2026.10.20 20:19

Classmethod.jp

DeepSeek V4.1 Flash 1017をAWS上でセルフホスティングし、SGLangを使った高速化手法を検証しました。CUDA GraphとDSparkの組み合わせで50 tok/secを超える速度を実現し、4 GPU構成でも動作させることに成功した結果をお届けします。

記事全文へ

アンソロピック、評価額141兆円でOpenAI超えへ──人類史上最大の資金調達ラウンド（Forbes JAPAN） - Yahoo!ニュース

2026.05.05 11:04

楽天市場が緊急メンテを開始、PHP脆弱性対策で他の企業サイトも続々実施

2026.10.22 0:04

【速報】自民党「サイバー有事前夜」を表明。AI攻撃多発で

2026.10.21 22:50

MetaのAIアプリ「Muse」、米国1000万ダウンロードを40日で突破

2026.10.22 0:00

GTC Berlin 2026 の Jensen Huang 基調講演をまとめてみた

2026.10.21 23:09

まだコメントはありません。