Anthropicは3日(米国時間)、大規模言語モデル(LLM)の出力結果を制御するために設けられたガードレールを回避する手法「Many-shot jailbreaking」について、研究結果を公開した。今回の研究結果公表に先立って、AI開発に関わる研究機関や競合企業などと情報を共有し、自社AIモデルにおいてはすでにいくつかの緩和策を適用したという。
アンソロピック、評価額141兆円でOpenAI超えへ──人類史上最大の資金調達ラウンド（Forbes JAPAN） - Yahoo!ニュース
【AnimeGen】経済産業省が税金をぶっこんだ商用利用OKなアニメ特化動画生成AI 当たり前のようにスタジオジブリ・京アニ・エヴァ等々をエサにしていて炎上中
AI時代の「無知の知」──「青信号で止まるAI」を作らないために【生成AIストリーム】
OpenAI初のAIハードウェアは「自律走行可能な画面なしスマートスピーカー」か
自己愛が強いナルシシストは生成AIに過剰な時間を費やしたり過度に依存したりする傾向が強い
まだコメントはありません。
コメントを送信しました。
AIニュース
