マイクロソフトと清華大学が大規模言語モデル向けのDIFF Transformerを発表

2024.12.09 13:31

InfoQ.com

マイクロソフトAI と清華大学の研究者が、Differential Transformer (DIFF Transformer) という大規模言語モデルの性能向上を目的とした新しいアーキテクチャを発表した。同モデルでは、モデルによるコンテキスト処理の微調整や無関係な情報によるハルシネーションを最小限化することで、アテンション・メカニズムが向上している。 By Daniel Dominguez Translated by Takashi Kawase

記事全文へ

検索

人気記事

アンソロピック、評価額141兆円でOpenAI超えへ──人類史上最大の資金調達ラウンド（Forbes JAPAN） - Yahoo!ニュース

2026.05.05 11:04

ピクスタPIXTA機械学習用画像・動画データセット10％OFF キャンペーン開催《9/30まで》

2024.08.26 12:00

【現地レポ VivaTech 2026】ロレアル、OpenAIと協業。強靱なAIマーケティング＆顧客戦略を発表

2026.07.22 8:00

サムスン電子ジャパン株式会社＜OPEN＞「Samsung Galaxy Watchシリーズ」2026年7月23日（木）予約開始・8月7日（金）発売

2026.07.23 5:15

ChatGPT 1,000万人到達、週間利用制限をまたリセット

2026.07.22 5:38

コメント一覧

まだコメントはありません。

コメント