ゲーム用PCでローカルLLMを動かしてみました。VRAMへの納まり方が速度を大きく左右するため、量子化してモデルサイズを抑えるのがコツです。
アンソロピック、評価額141兆円でOpenAI超えへ──人類史上最大の資金調達ラウンド（Forbes JAPAN） - Yahoo!ニュース
AI検索で選ばれないウェディング事業者、84%が引用ゼロに
小鵬創業者「将来的にすべての自動車が四輪ロボットになる」―中国メディア
株式会社ビットライトビットライト、事前ヒアリング付き「カスタムAIセミナー」を提供開始。先着10社限定で5万円から
自前AIチップの開発でサムスンと協議を始めたアンソロピックの思惑、TSMCの一極集中に生じた新たな揺らぎ【生成AI事件簿】OpenAIに続く自前半導体戦略、推論コスト低下と日本の半導体勢に広がる数年後の商機 - ニュース・経営
まだコメントはありません。
コメントを送信しました。
AIニュース
