LLMが不正な行動から学習し、持続的な「潜伏工作員」として働く可能性

2024.02.02 19:30
InfoQ.com

OpenAIの競合であるAnthropicのAI研究者は、プロンプトの特定のヒントによって引き起こされる不正行動を示すLLMを概念実証として訓練した。さらに、一旦不正の行動がモデルに訓練させると、標準的な技術を使ってそれを回避する方法はなかったという。 By Sergio De Simone Translated by null

検索

人気記事

2023.12.21 19:17
2024.03.21 13:55
2025.02.22 12:32
2024.03.29 10:18
2024.01.23 9:00

コメント一覧

まだコメントはありません。

コメント