米AWS、Amazon Bedrockの推論時のレイテンシ削減に役立つ2つの機能をプレビュー提供

2024.12.21 12:00
Codezine.jp

米Amazon Web Servicesは、Amazon Bedrockにおいて生成AIアプリケーションのコストとレイテンシ削減に役立つ、インテリジェントプロンプトルーティングと、プロンプトキャッシュのサポート(どちらもプレビュー)を、12月4日(現地時間)に導入している。

検索

人気記事

2024.03.21 13:55
2023.12.21 19:17
2025.02.22 12:32
2024.03.29 10:18
2023.11.22 14:26

コメント一覧

まだコメントはありません。

コメント