7Bモデルをドメイン特化させる学習をLoRAとGaLoreで試し比較する|oshizo

2024.04.13 18:27
Note.com

コーディングや医療など特定のドメインに特化させることで高い性能を発揮するモデルはドメイン特化モデルと呼ばれ、ベースモデルにドメインのコーパスを追加で学習させることで作成されます。 この図はベースモデルからドメイン特化のモデルを得るまでのフローです。本記事では赤枠で囲っている③のドメイン特化学習を試した内容を紹介します。 ドメイン特化モデルを得るまでのフロー GaLoreについて 2024/3に新しいLLMのファインチューニング手法GaLoreが公開されました。論文によれば、VRAM24Gのコンシューマ向けGP…

検索

人気記事

2026.05.05 11:04
2026.08.23 19:08
2026.11.13 22:17
2026.11.19 22:44
2026.11.19 9:48

コメント一覧

まだコメントはありません。

コメント