Claudeには自分が送信したメッセージをユーザーからのものだと誤認する致命的バグがあるとの指摘

ツイート

AnthropicのAI「Claude」を利用する人たちが、Claudeは自分で自分にメッセージを送って勝手に処理を実行してしまうことがあるという話を共有しました。これらはウソの情報を真実だと誤認する「ハルシネーション」といった他の欠陥とは全く異なる、致命的なものだと指摘されています。Claude mixes up who said what, and that's not OKhttps://dwyer.co.za/static/claude-mixes-up-who-said-what-and-thats-n…