LLMのRAGアプリケーションにおけるオブザーバビリティを向上するツール「Phoenix」の紹介 - Assured Tech Blog

ツイート

LLMを活用したRetrieval-Augmented Generation (RAG) アプリケーションの評価にお困りの方へ、Phoenixというオープンソースの評価ツールを紹介します。PhoenixはLLMのトレーシングと評価を可視化し、評価サイクルを加速します。従来のDeepEvalライブラリでは制限や分析の難しさがありましたが、Phoenixを導入することでQuota制限やレイテンシの問題を解決し、スコアの低い原因分析が容易になりました。AssuredではGoogle CloudのCloudRunにPho…