In-Context LearningはTest-Time Computeの恩恵を受けられるか？｜朝日新聞社 メディア研究開発センター

ツイート

こんにちは。メディア研究開発センターの川畑です。 今回のテックブログではin-context learningの性能を推論時間を利用することで伸ばすことができるか調査した結果を共有します。 大規模言語モデル (LLM) が推論時に与えられるいくつかの事例 (few-shot examples) を用いて推論することをin-context learning (ICL) と呼びますが、ICLの性能はLLMに与える例の構成にセンシティブであることが知られています [1]。良い事例集合を構成できればICLによる推論の性…