なぜ大規模言語モデル(LLM)はだまされやすいのか？

ツイート

大規模言語モデル(LLM)を用いたAIは、驚くほど自然な文章を生成したりさまざまな課題をクリアしたりと、高度で広範な機能を備えています。しかし、LLMに目的の回答をうまくさせるプロンプトがある一方で、意図的にLLMをだまそうと試みれば、簡単にウソを教えたりウソの出力をさせることができたりと、LLMはかなりだまされやすい性質を持っています。なぜLLMは高度な機能があるのにだまされやすいのかについて、ソフトウェアエンジニアのスティーブ・ニューマン氏が解説しています。Why 全文GIGAZINE（ギガジン） 02月24…