2010-02-27から1日間の記事一覧

log(3) と 1ulp

log(3.0) は 1.0986122886681096913952452369225 くらいの値になるはずです (Windows 付録の電卓調べ)。これがC言語の log(3) で log(3) した場合、double に丸められるので、実際の値は 1.0986122886681098 になります。言い換えると、だいたい 0x1.193ea7a…