AIチャットボットが生成できない回答を「アスキーアート」で答えさせることができるという報告

ツイート

GPT-4、Gemini、Claude、Llama 2などの大規模言語モデルは、入力した内容に応じて人間と同等の精度で自然な文章を出力します。しかし、暴力的な内容や違法な内容などについては、開発時点で出力しないように対策されています。この安全対策を回避する「脱獄(ジェイルブレイク)」をアスキーアートで実行する方法「ArtPrompt」についての論文が、未査読論文リポジトリのarXivで公開されています。[2402.11753] ArtPrompt: ASCII Art-based Jailbreak Attack…