Snapdragon XのNPUをフル稼働してLLMを動かせる「AnythingLLM」／無料、アカウント登録不要で「Llama 3.2 3B」や「Llama 3.1 8B」を実行可能【使ってわかるCopilot+ PC】

ツイート

NPUを使ってLLMを動かす方法が少しずつ増えてきている。今回紹介する「AnythingLLM」は、最も簡単に導入できるNPU対応LLMツールの1つだ。