asyncio.gatherでLLMパイプラインに「タダで」分類機能を追加する

2026.07.12 16:15
Classmethod.jp

asyncio.gather()を使ってKB検索のI/O待ちの裏で軽量LLM分類を並列実行し、レイテンシ増加ゼロでRAGパイプラインに分類機能を追加するパターンを、実装例とともに紹介します。

検索

人気記事

2026.05.05 11:04
2026.09.16 1:06
2026.09.16 0:52
2026.09.16 8:09
2026.09.14 14:15

コメント一覧

まだコメントはありません。

コメント