LoRAの進化:基礎から最新のLoRA-Proまで

2025.09.22 16:56
Zenn.dev

各図表は言及がない場合、対応する論文から引用しています。 LoRA(2021) LoRA(Low-Rank Adaptation)は、ファインチューニング中にモデルの重み行列で生じる変化が、実は低ランクの構造を持つという仮説に基づいています。 LoRAの仮説背景 先行研究①②では、深層学習モデルが非常に多くのパラメータ(高い次元の空間)を...

検索

人気記事

2025.11.06 11:33
2025.11.06 9:21
2023.11.14 23:16
2025.11.07 0:37
2024.04.01 22:09

コメント一覧

まだコメントはありません。

コメント