中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト(フォーブス ジャパン)
2026.10.07 12:27
Forbesjapan.com
Anthropic(アンソロピック)とOpenAIのセキュリティテストを担う企業の1つ、スタートアップのIrregular(イレギュラー)が行った実験で、アリババのQwenで動くAIエージェントが、ソフトウェアの基本的な不具合を直すよう頼まれたのに、AIモデルを丸ごと再学習させる道を選んだ。AIモデルが何をするか予測できないという...