ローカルでLLMを動かすときの遅さは、アプリ側の工夫でまだ改善できる。Element Labsは8月28日(現地時間)、「LM Studio」の最新安定版「0.4.22 Build 1」を公開した。同バージョンは、DFlashやDSpark、MTP Draftersという3つの投機的デコーディング手法に新たに対応した。公式Webサイトより無料で入手できる。
アンソロピック、評価額141兆円でOpenAI超えへ──人類史上最大の資金調達ラウンド（Forbes JAPAN） - Yahoo!ニュース
株式会社旭東トレーディングLexar、最大14,000MB/sのPCIe 5.0対応M.2 NVMe SSD「NM990」「Professional NM1090 PRO」を日本発売
ORM が引き受けている責務を分解してみる | ashunar0
【正論】ひろゆき「日本がちょっとづつ貧しくなっていく」理由を解説
OpenAI、Hugging Faceへのハッキングに関する調査報告書を公開。それでも残る疑問とは
まだコメントはありません。
コメントを送信しました。
AIニュース
