UnslothのGoogle Colabノートブックで手軽にLLMの蒸留ができる｜shi3z

2025.02.02 11:25

Note.com

DeepSeek-R1の1.58ビット量子化で途端に注目の的になったUnsloth。彼らは元々、LLMのGGUFなどを作ってくれる親切なハッカーというイメージだった。しかし、今回の動的量子化など、尖った技術をソフトウェアパッケージにしていて、Phi-4やCommande-Rなど、いろいろなオープンウェイトモデルの蒸留や量子化が簡単にできるGoogle Colab Notebookを配っていた。

Google Colab

colab.research.google.com

これが…

記事全文へ

検索

人気記事

アンソロピック、評価額141兆円でOpenAI超えへ──人類史上最大の資金調達ラウンド（Forbes JAPAN） - Yahoo!ニュース

2026.05.05 11:04

三菱総合研究所の「生成AI活用術」超解説、コンサルの“新しい稼ぎ方”が凄すぎる…（ビジネス＋IT） - Yahoo!ニュース

2026.07.13 7:29

OpenAI、ChatGPTを組み込んだWebブラウザ「Atlas」の提供終了を発表

2026.07.13 17:45

他人の「Instagram」写真を、「@メンション」でAI素材にするMetaの新機能、撤回に追い込まれる／Metaが導入した新しい画像生成AI「Muse Image」の目玉機能だったのに……やりすぎたか【やじうまの杜】

2026.07.13 16:08

株式会社AIdeaLabアニメ特化動画生成AIモデル『AnimeGen』を公開

2026.07.13 9:10

コメント一覧

まだコメントはありません。

コメント