AIニュース

生成AIの幻覚で指定される「架空のパッケージ」に悪用の危険性があるとセキュリティ研究者が警告

2024.03.29 21:00
Livedoor.com
このエントリーをはてなブックマークに追加

GPT-4やClaude 3のような大規模言語モデルは人間が書いたように自然な文章を生成できますが、時として事実に基づかない情報を生成する「ハルシネーション(幻覚)」という現象を起こします。セキュリティ企業・Lasso Securityの研究者であるバー・ラニャド氏が、ハルシネーションによって存在しないパッケージを組み込んだソースコードが生成され、実際に使われていると指摘しています。Diving Deeper into AI Package Hallucinationshttps://lasso-security…

記事全文へ

検索

人気記事

【いよいよ来週 開催！】西日本最大級 DX・AIによるビジネス変革のための総合展／ChatGPT・生成AIをマイクロソフト常務、ベネッセ専務が語るカンファレンスも25本併催

2023.12.04 10:47

【2023年12月AIsmiley生成ウェビナーWeeK!】 生成AI・LLM・ChatGPTの利便性と限界！開発からコンサルティング簡単導入まで事例をご紹介するBIGイベント！

2023.12.04 10:47

触ってみよう！SAP Analytics Cloud for planning―第１回：アカウント登録及び計画モデル作成

2023.10.24 16:36

Slackアプリ経由でChatGPTと連想ゲームをしてみた。

2023.12.04 9:07

サルバムやテルマがショーを披露　東コレ25年春夏のスケジュールが発表、全33ブランドが参加

2024.08.07 15:57

コメント一覧

まだコメントはありません。

コメント