vLLMのコードを読んでみよう - ENGINEERING BLOG ドコモ開発者ブログ

2024.12.20 9:52
Nttdocomo-developers.jp

こんにちは、NTTドコモR&D戦略部の門間です。 この記事では、vLLMのコードを追いつつその中身の動きに迫りたいと思います。 最近、業務やプライベートでLLM関連のいろいろを触っていますが、 OSSのコードリーディングを通じてLLMの推論処理への理解を深めたいというモチベーションです。 vLLMって? 前提知識 Atten...

検索

人気記事

2026.05.05 11:04
2026.08.23 19:08
2026.11.16 9:44
2026.11.16 7:04
2026.11.16 17:32

コメント一覧

まだコメントはありません。

コメント