NVIDIA未来に火をつける: TensorRT-LLM が AI 推論のパフォーマンスを加速し、RTX を搭載した Windows 11 PC 上で動作する新しいモデルのサポートを追加

2023.11.16 12:08
CNET

Microsoft Ignite で発表された新しいツールとリソースには、OpenAI Chat API 用 のTensorRT-LLM ラッパー、Llama 2 向けの DirectML に対する RTX を利用したパフォーマンス向上、その他の一般的な LLM が含まれます[画像1: https://prtimes.jp/i/12662/423/resize/d12662-423-7065929f5f4b1bc71e59-0.jpg ]Windows 11 ...

検索

人気記事

2023.11.10 11:00
2023.12.01 7:00
2023.12.01 6:11
2023.12.21 18:34
2024.03.04 10:00

コメント一覧

まだコメントはありません。

コメント