スポンサーサイト

上記の広告は1ヶ月以上更新のないブログに表示されています。
新しい記事を書く事で広告が消せます。

計算式の謎

同じ計算式でも順番が違うだけで数値が違くなるという罠

[floor(80*80*0.01)=64]になるのだけど
なぜか[floor(0.01*80*80)=63]になる

どういうことなの…?

追伸
小数の誤差
ここに書いてあるとことが原因のようです
超簡潔に言うと2進数で小数を再現しているから0.1を再現しきれない、であってる?
流石に専門的なことまではなるほど、さっぱりわからん状態ですけど
スポンサーサイト

Comment

コメントの投稿

Comment
管理者にだけ表示を許可する
上記広告は1ヶ月以上更新のないブログに表示されています。新しい記事を書くことで広告を消せます。