GPUの単精度 sin / cos 関数の誤差を引数 32bit 全探索で調べた

2025.09.27 14:58
Zenn.dev

GPUの単精度 sin / cos には「標準版」と「近似版」がある NVIDIA / AMD など多くの GPU には、sin や cos といった超越関数を高速(1サイクルあたり1命令のスループット[1])に 近似計算する 専用ハードウェアが搭載されています。NVIDIA ではこれを SFU (Special Function Unit) [2]と呼びます。本記事では便宜上、SFU...

検索

人気記事

2025.11.05 19:59
2024.03.12 7:15
2025.08.11 18:00
2025.08.12 7:00
2025.08.10 7:31

コメント一覧

まだコメントはありません。

コメント