GPUの単精度 sin / cos 関数の誤差を引数 32bit 全探索で調べた

2025.09.27 14:58
Zenn.dev

GPUの単精度 sin / cos には「標準版」と「近似版」がある NVIDIA / AMD など多くの GPU には、sin や cos といった超越関数を高速(1サイクルあたり1命令のスループット[1])に 近似計算する 専用ハードウェアが搭載されています。NVIDIA ではこれを SFU (Special Function Unit) [2]と呼びます。本記事では便宜上、SFU...

検索

人気記事

2026.05.05 11:04
2026.09.16 0:00
2026.10.30 23:17
2026.08.23 19:08
2026.10.30 23:34

コメント一覧

まだコメントはありません。

コメント