NVIDIA未来に火をつける: TensorRT-LLM が AI 推論のパフォーマンスを加速し、RTX を搭載した Windows 11 PC 上で動作する新しいモデルのサポートを追加

2023.11.16 12:08
CNET

Microsoft Ignite で発表された新しいツールとリソースには、OpenAI Chat API 用 のTensorRT-LLM ラッパー、Llama 2 向けの DirectML に対する RTX を利用したパフォーマンス向上、その他の一般的な LLM が含まれます[画像1: https://prtimes.jp/i/12662/423/resize/d12662-423-7065929f5f4b1bc71e59-0.jpg ]Windows 11 ...

検索

人気記事

2023.12.04 10:47
2023.12.04 10:47
2023.10.24 16:36
2023.12.04 9:07
2024.08.07 15:57

コメント一覧

まだコメントはありません。

コメント