OpenAIが「AIにバレずにAIをテストする手法」の開発に成功

ツイート

OpenAIやAnthropicなどのAI企業はAIモデルを製品化する前に社内で安全リスクの分析を行っています。新たに、OpenAIが安全リスクの高精度な分析手法を発表しました。Predicting model behavior before release by simulating deployment | OpenAIhttps://openai.com/index/deployment-simulation/多くのAI企業はAIモデルに「サイバー攻撃のためのコード生成」や「生物兵器の作り方の解説」といった…