UnslothのGoogle Colabノートブックで手軽にLLMの蒸留ができる｜shi3z

2025.02.02 11:25

Note.com

DeepSeek-R1の1.58ビット量子化で途端に注目の的になったUnsloth。彼らは元々、LLMのGGUFなどを作ってくれる親切なハッカーというイメージだった。しかし、今回の動的量子化など、尖った技術をソフトウェアパッケージにしていて、Phi-4やCommande-Rなど、いろいろなオープンウェイトモデルの蒸留や量子化が簡単にできるGoogle Colab Notebookを配っていた。

Google Colab

colab.research.google.com

これが…

記事全文へ

検索

人気記事

ロリAIがおちんぽ強度に合わせて焦らしてくれるアプリ型オナサポ音声「おちんぽ学習型AIオナサポPremier～AI少女が《おちんぽの限界と弱点》を学習して《徹底的な射精管理》をするASMRアプリ」

2025.01.10 19:00

縦置きスタイルが予想以上に快適！クリップ式モニターでノートPC作業を効率化してみたよ

2025.07.03 10:45

AIを最強の相棒にする「メタ認知」術

2025.07.03 14:35

Perplexity AI、Labs機能の無制限使用や新機能への早期アクセス、OpenAI o3-proやClaude Opus 4へのアクセスが可能な月額200ドルの「Perplexity Max」プランを提供開始。

2025.07.03 6:12

話題のChatGPT o3-Pro「正直レビュー」。超優秀な調査員としての使い方ならアリかも

2025.07.02 14:35

コメント一覧

まだコメントはありません。

コメント