AIニュース

大規模言語モデルを単一ファイルで配布・実行する「llamafile」のバージョン0.7で処理能力が最大10倍高速化

2024.04.02 13:39
Livedoor.com
このエントリーをはてなブックマークに追加

大規模言語モデル(LLM)をわずか4GBほどの実行ファイル1つで手軽に配布・実行できるようにしたパッケージ「llamafile v0.7」が公開されました。このバージョンではCPUとGPU両方の計算性能と計算精度が向上しており、命令セットアーキテクチャ「AVX-512」のサポートにより、AMDの「Zen4」アーキテクチャ採用CPUなどでプロンプト処理時間が10倍高速化されるとのことです。Release llamafile v0.7 · Mozilla-Ocho/llamafile · GitHubhttps://…

記事全文へ

検索

人気記事

アンソロピック、評価額141兆円でOpenAI超えへ──人類史上最大の資金調達ラウンド（Forbes JAPAN） - Yahoo!ニュース

2026.05.05 11:04

Jensen Huang CEO もサプライズ登場した Build a Claw Tokyo に参加してきました

2026.07.16 23:54

OpenAI初のAIハードウェアは「自律走行可能な画面なしスマートスピーカー」か

2026.07.15 11:33

【AnimeGen】経済産業省が税金をぶっこんだ商用利用OKなアニメ特化動画生成AI　当たり前のようにスタジオジブリ・京アニ・エヴァ等々をエサにしていて炎上中

2026.07.15 12:15

AI翻訳対応のスマートグラス「INMO GO3」、7月30日発売　価格は9万9800円

2026.07.16 19:05

コメント一覧

まだコメントはありません。

コメント