AIブラウザ「ChatGPT Atlas」では「勝手に辞職メールを送信」など有害な攻撃を次々に編み出す自動ハッキングAIを使ってセキュリティが強化されている

ツイート

OpenAIが2025年10月にリリースしたウェブブラウザ「ChatGPT Atlas」にはAIエージェントが組み込まれており、情報収集やメール処理などの作業をAIに実行させることができます。そんなChatGPT Atlasのセキュリティを強化するべく、OpenAIのレッドチームは「有害なプロンプトインジェクション攻撃の手法を自動で編み出すAI」を構築して新型の攻撃手法を探索しています。Continuously hardening ChatGPT Atlas against prompt injection at…