LLMの革新、トークンからバイトへ〜メタが開発した新アーキテクチャ「BLT」の全容(AMP[アンプ]) - Yahoo!ニュース
2025.02.24 12:15
Yahoo.co.jp
AI研究コミュニティは、大規模言語モデル(LLM)の新たな改善方法を模索し続けている。 特に注目される課題の1つとして、既存LLMが依拠するトークンベースアーキテクチャにおける非効率性が挙げられる。 そもそも、LLMの文脈における「トークン」とは、事前に定義されたバイト(データの最小単位)の組み合わせのことを...