NVIDIA未来に火をつける: TensorRT-LLM が AI 推論のパフォーマンスを加速し、RTX を搭載した Windows 11 PC 上で動作する新しいモデルのサポートを追加
2023.11.16 12:08
CNET
Microsoft Ignite で発表された新しいツールとリソースには、OpenAI Chat API 用 のTensorRT-LLM ラッパー、Llama 2 向けの DirectML に対する RTX を利用したパフォーマンス向上、その他の一般的な LLM が含まれます[画像1: https://prtimes.jp/i/12662/423/resize/d12662-423-7065929f5f4b1bc71e59-0.jpg ]Windows 11 ...
検索
人気記事
コメント一覧
まだコメントはありません。