AppleがNVIDIAとの共同研究で大規模言語モデルのパフォーマンス高速化の成果を発表

2024.12.19 10:51
Livedoor.com

Appleは、NVIDIAとの共同研究による大規模言語モデル(LLM)の推論処理高速化についての研究成果を2024年12月18日に発表しました。Appleが独自に開発した「ReDrafter」技術をNVIDIAのGPU向け推論フレームワーク「TensorRT-LLM」に統合することで、処理速度を最大2.7倍に向上させることに成功し、消費電力とGPU使用量の削減も実現したとのことです。Accelerating LLM Inference on NVIDIA GPUs with ReDrafter - Apple M…

検索

人気記事

2026.05.15 0:01
2026.05.14 23:57
2026.05.15 0:05
2026.05.15 0:10
2026.05.15 6:02

コメント一覧

まだコメントはありません。

コメント