知り合いがAIに作らせたクローラーに大量のサイトを読み込ませたら、プロンプトインジェクションを受けてPCがマルウェアに感染「こういう事故はこれから増えていく気が…」

ツイート

知り合いがAIに作らせたクローラーに大量のサイトを読ませたら、プロンプトインジェクションを食らってPCがマルウェアに感染してた。AIで誰でも簡単に作れるようになった分、開発やセキュリティの知識がないまま動かす人も増えていて、こういう事故はこれから増えていく気が…。 とにかく最近、OCRなど雑に作ったなんちゃってSaasを始める事業者が多いけど、どこまで安全性を考慮されてるのかわからないから殆どが信用できない。機密情報を預けるようなSaasとの契約は相当慎重になるべき。