LLMの出力が毎回変わる問題、原因はGPUではなかった？Thinking Machinesが解決策を発見

ツイート

大規模言語モデル（LLM）を利用する際、「同じプロンプトを入力しても、出力が毎回異なる」という現象が発生することがあります。普通の自然言語でのチャットのやり取りでは、同じ入力に対してそこまで意味が異なる文章が返ってくることは少ないですが、例えばスクリプトを組んだりAI自身に最適な...smhn.infoにアクセスすると、全文を読むことができます。