LLMの革新、トークンからバイトへ メタが開発した新アーキテクチャ「BLT」の全容 | AMP[アンプ] - ビジネスインスピレーションメディア
2025.02.25 16:09
Ampmedia.jp
大規模言語モデル開発の課題:トークン利用における非効率性 AI研究コミュニティは、大規模言語モデル(LLM)の新たな改善方法を模索し続けている。 特に注目される課題の1つとして、既存LLMが依拠するトークンベースアーキテクチャにおける非効率性が挙げられる。 そもそも、LLMの文脈における「トークン」とは、事前に...