OpenAI、次期モデル「Astra」の開発を一部停止--「最高水準のサイバー攻撃能力に達した可能性」

ツイート

OpenAIは米国時間8月7日、開発中の次期AIモデル「Astra」について、サイバー攻撃に使える能力が同社の安全指針で最も高い「Critical（臨界）」の水準に達した可能性を排除できないと公式ブログで発表した。モデルをCriticalとして扱うのは今回が初めてだ。開発を安全に続けるためのセキュリティ管理を強化し、要件を満たしていない社内のAstra関連活動を一時停止した。一方で、モデルを封じ込めたまま終わらせるつもりはなく、広く利用可能にすることを目指す方針は崩していない。