ついに1000万トークンを把握!人間の一生分の情報を理解してくれるオープンウェイトLLM Llama4登場｜shi3z

ツイート

朝起きたら突然、Llama4が超絶進化して登場していた。 中でも、シングルGPUで動作するLlama4 Scoutは1000万トークンのコンテキストウィンドウを装備。しかもシングルGPUで動作可能。アクティブパラメータはわずか17B(トータル109B) 1000万トークンって、単行本100冊分だぞ。 単行本100冊の知識が常に頭にある知性ってやばくないか。 ワイだって相当本を読んできた方だが100冊分の知識を澱みなく把握するのは不可能。 さらにLlama4 Maverickは、挨拶がわりに100万コンテキスト…