【やじうまPC Watch】AIがガードレール無視、9秒で企業のデータベースを全削除する事故

ツイート

自動車のレンタルに関するソフトウェア「PocketOS」を開発している創業者のJer Crane氏は4月26日、ClaudeのAIを使ったコーディングエージェントの「Cursor」が、同社のインフラプロバイダであるRailwayのAPIを呼び出し、同社の本番データベースとすべてのボリュームレベルのバックアップを削除する事故が発生したとX(旧Twitter)上で報告した。削除はわずか9秒の間に行なわれた。