いちばんやさしいローカル LLM|ぬこぬこ
2024.04.21 6:00
Note.com
概要 ローカル LLM 初めましての方でも動かせるチュートリアル 最近の公開されている大規模言語モデルの性能向上がすごい Ollama を使えば簡単に LLM をローカル環境で動かせる Enchanted や Open WebUI を使えばローカル LLM を ChatGPT を使う感覚で使うことができる quantkit を使えば簡単に LLM を量子化でき、ローカルでも実行可能なサイズに小さくできる 1. はじめに 大規模言語モデル(LLM)の数は数年前と比べてたくさん…