わずか2.5GBの衝撃!ご家庭でPerplexityみたいなものが動くヨ!みんなもうコレにしようぜ｜shi3z

ツイート

毎日AIニュースを追いかけているのだが、今日は大漁だった。他にもすごいネタあるんだけど、とりあえず試してみたのが、Jan-v1というモデル。なんとわずか2.5GBしかない!(GGUF版)。パラメータ数はわずか40億だ。下手すりゃ携帯で動くぜこれ。これは正真正銘、ご家庭の時代が来た!と言えるのではないか。もう128GBのRAMとかいらねえぜ。普通のMacでも動くぜー しかも有料のPerpexity Proよりも高性能


janhq/Jan-v1-4B · Hugging Face


We’re on a jo…