Gauche > Archives > 2016/02/26
Built on
Chaton
Search
|
Badge
|
Tools
2016/01
2016/02
2016/02/01 (0)
2016/02/02 (0)
2016/02/03 (0)
2016/02/04 (0)
2016/02/05 (0)
2016/02/06 (0)
2016/02/07 (0)
2016/02/08 (0)
2016/02/09 (0)
2016/02/10 (0)
2016/02/11 (0)
2016/02/12 (0)
2016/02/13 (0)
2016/02/14 (0)
2016/02/15 (7)
2016/02/16 (9)
2016/02/17 (0)
2016/02/18 (0)
2016/02/19 (0)
2016/02/20 (0)
2016/02/21 (1)
2016/02/22 (3)
2016/02/23 (4)
2016/02/24 (0)
2016/02/25 (0)
2016/02/26 (5)
2016/02/27 (0)
2016/02/28 (2)
2016/02/29 (0)
2016/03
<< 2016/02/25
Back to the chat room
2016/02/27 >>
2016/02/26 08:00:44 UTC
shiro
#
http://qiita.com/dankogai/items/281c20b408194b6cb4b1
これはとてもおもしろい。角度の正規化には倍精度のπでも不足するので必要な精度まで計算。
#
えーっと倍精度で正規化したためにまずいことになったって事例をどっかで読んだな。
#
blogネタにしようと思ってたんだけどどこだったかな
2016/02/26 08:40:57 UTC
shiro
#
これだ。x87FPUのfsin実装がレンジ縮小時に盛大に桁落ちしてたという話
https://randomascii.wordpress.com/2014/10/09/intel-underestimates-error-bounds-by-1-3-quintillion/
2016/02/26 08:48:19 UTC
shiro
#
関連でtwitterから辿ったおもしろい話
http://ksmakoto.hatenadiary.com/entry/2013/05/09/093858
<< 2016/02/25
Back to the chat room
2016/02/27 >>
Gauche > Archives > 2016/02/26Gauche > Archives > 2016/02/26