GoogleのAI「Gemini」の長期メモリーをハッキングする間接プロンプトインジェクション攻撃の存在が明らかに

ツイート

チャットボットに機密情報を出力させたり、悪意のあるアクションを実行させたりするために用いられるのが、間接プロンプトインジェクションです。セキュリティ研究者のヨハン・レーバーガー氏は新たに、間接プロンプトインジェクション攻撃によってGoogleのAI「Gemini」の長期メモリーをハッキングする方法を編み出し、公開しています。Hacking Gemini's Memory with Prompt Injection and Delayed Tool Invocation · Embrace The Redhttps…