計算式の謎

同じ計算式でも順番が違うだけで数値が違くなるという罠

[floor(80*80*0.01)=64]になるのだけど
なぜか[floor(0.01*80*80)=63]になる

どういうことなの…?

追伸
小数の誤差
ここに書いてあるとことが原因のようです
超簡潔に言うと2進数で小数を再現しているから0.1を再現しきれない、であってる?
流石に専門的なことまではなるほど、さっぱりわからん状態ですけど
スポンサーサイト

Comment

コメントの投稿

Comment
管理者にだけ表示を許可する