GPUの単精度 sin / cos 関数の誤差を引数 32bit 全探索で調べた

2025.09.27 14:58
Zenn.dev

GPUの単精度 sin / cos には「標準版」と「近似版」がある NVIDIA / AMD など多くの GPU には、sin や cos といった超越関数を高速(1サイクルあたり1命令のスループット[1])に 近似計算する 専用ハードウェアが搭載されています。NVIDIA ではこれを SFU (Special Function Unit) [2]と呼びます。本記事では便宜上、SFU...

検索

人気記事

2026.04.15 0:10
2026.04.14 18:01
2026.04.14 20:00
2026.04.14 15:48
2026.04.14 19:50

コメント一覧

まだコメントはありません。

コメント