OpenAIが「安全のためにAIの強化学習を2週間停止した」と自社の安全対策をアピール

ツイート

OpenAIはテスト中モデルで他社サーバーに攻撃を仕掛けてしまうセキュリティインシデントを起こしたり、開発中の次期主力モデルであるAstraをサイバーリスク重大に指定したりと高性能AIによるセキュリティ上の問題に相次いで直面しています。この状況の中、安全対策を強化するために開発中モデルの強化学習を一時停止していたことが明らかになりました。Pacing model development in an era of cyber-critical capabilities | OpenAIhttps://openai.…