AIニュース
ローカルLLMの小説生成能力を評価する：中規模モデル編｜Kohya S.
2025.02.07 23:30
Note.com
中規模モデルクラス、恋愛小説部門の評価です。 はじめに 近年、ローカル環境で動作する比較的小規模なLLM（Large Language Model）の性能が向上しています。本記事では、パラメータ数20～30B程度のローカルLLM（量子化を行うと24GB VRAM程度で動作するもの）を中心に、それらのLLMの小説生成能力を、より大規模なクラウド型LLMを用いて評価する試みについて報告します。 なお、試行回数は生成、評価とも1回のみ、プロンプトや生成設定なども練れていませんので、参考程度にお読みください。また…
検索
人気記事
コメント一覧
まだコメントはありません。