「AIがシステムに侵入して自己複製する」というシナリオはもはやSFではなく現実になりつつある

ツイート

「暴走したAIが自己複製を開始して世界を脅かす」と聞くと、まるで近未来を舞台にしたSFの設定のように思われます。ところが、AIセキュリティ企業のPalisade Researchが行った研究により、脆弱(ぜいじゃく)なシステム内で自己複製するAIはもはや現実になりつつあることが示されました。Language Models Can Autonomously Hack and Self-Replicate - self-replication.pdf(PDFファイル)https://palisaderesearch.…