数学の難問を与えられた100体のAIエージェントが不正を行う側と不正に対抗する側に分かれたことがGoogleの実験で判明

ツイート

数学問題を解くというタスクを実行していた100体のAIエージェントが、システムの欠陥を見つけて解いてもいない問題を「解いた」と報告したことが分かりました。ただ、100体全てが不正をしていたわけではなく、不正行為を見つけて人間の監督者に知らせようとしたAIエージェントもいたようです。[2609.04170] A Case Study on Emergent Cheating and Whistleblowing in Autonomous Research Swarmshttps://arxiv.org/abs/2…