「AIモデルは推論時間が長くなるほど敵対的攻撃に強くなる」というOpenAIの研究結果

ツイート

AIを意図的に混乱させようとする敵対的攻撃に対する防衛策として、推論時間が長ければ長いほど効果的とする研究結果をOpenAIが発表しました。Trading inference-time compute for adversarial robustness | OpenAIhttps://openai.com/index/trading-inference-time-compute-for-adversarial-robustness/AIモデルが敵対的攻撃に対して脆弱(ぜいじゃく)だと、モデルが開発者の意図しない…