Anthropicの上級安全研究者が「AIが21世紀末までに人類を滅ぼす可能性が10％以上ある」と発言、「Anthropicの安全対策が甘い」と退職する社員も

ツイート

AI企業・AnthropicのAI安全チームを率いる責任者が、人間の手を借りずに性能を向上させ続けることができる「自己改善型AI」について「予想以上に速いペースで進んでいる」と警告を発しました。Jacob is correct here-we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying…