小型AIで下書きを生成して大型AIを爆速化する「マルチトークン予測」という技術をGoogleが発表

ツイート

Googleが小型AIを用いて投機的予測を実行することで大型AIの処理を高速化する技術「Multi-token-prediction(マルチトークン予測)」を発表しました。Multi-token-prediction in Gemma 4https://blog.google/innovation-and-ai/technology/developers-tools/multi-token-prediction-gemma-4/マルチトークン予測で Gemma 4 を高速化する  |  Google AI for…