GPUの単精度 sin / cos 関数の誤差を引数 32bit 全探索で調べた
2025.09.27 14:58
Zenn.dev
GPUの単精度 sin / cos には「標準版」と「近似版」がある NVIDIA / AMD など多くの GPU には、sin や cos といった超越関数を高速(1サイクルあたり1命令のスループット[1])に 近似計算する 専用ハードウェアが搭載されています。NVIDIA ではこれを SFU (Special Function Unit) [2]と呼びます。本記事では便宜上、SFU...