プロンプトインジェクションから生成 AI ワークロードを保護する

ツイート

大規模言語モデル（LLM）を組織のワークフローや顧客向けアプリケーションに統合する際には、プロンプトインジェクションのリスクを理解し、軽減することが極めて重要となります。生成AIを使用するアプリケーションに対して包括的な脅威モデルを開発することで、不正なデータアクセスなど、プロンプトインジェクションに関連する潜在的な脆弱性を特定することができます。 この取り組みを支援するため、AWSは適切な脅威モデルの作成に使用できる様々な生成AIセキュリティ戦略を提供しています。