asyncio.gatherでLLMパイプラインに「タダで」分類機能を追加する

2026.07.12 16:15
Classmethod.jp

asyncio.gather()を使ってKB検索のI/O待ちの裏で軽量LLM分類を並列実行し、レイテンシ増加ゼロでRAGパイプラインに分類機能を追加するパターンを、実装例とともに紹介します。

検索

人気記事

2026.05.05 11:04
2026.07.27 0:08
2026.07.26 23:59
2026.07.26 23:38
2026.07.26 20:03

コメント一覧

まだコメントはありません。

コメント