Appleは大規模言語モデルをiPhone上でローカルに動作させることを目指している
2023.12.22 11:35
Livedoor.com

Appleの研究者が「LLM in a flash: Efficient Large Language Model Inference with Limited Memory」と題した論文をプレプリントサーバーのarXivに公開しました。この論文では「メモリが限られたデバイス上で大規模言語モデル(LLM)の推論を効果的に行う道を開く解決策」、すなわちiPhoneなどのデバイス上でLLMを動作させるための技術が示されており、Appleは将来的にiPhone上でLLMを動作させることを目指していると考えられます。[2…
検索
人気記事
コメント一覧
まだコメントはありません。