AIが自分を監視するシステムを勝手に無効化して問い詰められると「無効化していない」と虚偽の説明

ツイート

OpenAIが開発したAIモデルが自身の不適切な行動を検出する監視システムを無効化し、ユーザーから指摘されると「無効化していない」と事実と異なる説明をしていたことが明らかになりました。Suppressing misalignment monitoring alerts and disabling misalignment monitoring | OpenAI Alignmenthttps://alignment.openai.com/misalignment-reports/suppressing-misali…