AIが自律攻撃でHugging Face侵入、テスト解答盗む「カンニング」目的

ツイート

Hugging FaceのインフラにOpenAIの自律型AIエージェントが侵入し、約5日間にわたりシステム内部を捜索するセキュリティインシデントが発生した。OpenAIはこのインシデントについて7月21日(米国時間)に発表したが、今回、Hugging Faceがその技術や経緯の詳細を明らかにした。攻撃を行なったAIは、サイバー能力評価ツールである「ExploitGym」テストの評価中に、「自力で課題を解くのではなく、本番システムに侵入して解答を直接盗み出す」ことを自律的に判断して実行したとみられている。