Anthropicが「開発中のAIで外部を攻撃しないための対策」を発表

ツイート

「OpenAIのテスト中モデルがHugging Faceを攻撃してしまった」という問題が話題になる中、Anthropicも「AIモデルのテスト中に外部への攻撃が発生していた」と報告しています。新たに、Anthropicがテスト中のモデルによる誤った攻撃を防ぐための対応内容を発表しました。Improving our alignment and security practices \ Anthropichttps://www.anthropic.com/news/improving-alignment-securi…