プロンプトエンジニアリングによる、Amazon Bedrock でのセキュアな RAG アプリケーション

ツイート

本ブログでは、既存のプロンプトレベルの脅威について議論し、それらを緩和するためのいくつかのセキュリティガードレールについて概説します。例として、Amazon Bedrock のAnthropic Claude を使用し、プロンプトインジェクションなどの一般的なセキュリティ脅威に対するガードレールを実施できるプロンプトテンプレートを実装します。これらのテンプレートは他の LLM とも互換性があり、修正して使用することもできます。