浮点数精度问题求解，比如 floor(297.9 * 100) / 100 为什么会变成 297.89？
UnrealEngine · 2020-08-24 17:05:52 +08:00 · 2268 次点击这是一个创建于 1577 天前的主题，其中的信息可能已经有所发展或是发生改变。
用 floor 会出现这种问题，但是 round 就没事
但是其他浮点数我也试了下 floor 正常
 |
1
ClarkAbe 2020-08-24 17:08:56 +08:00 via iPhone
计算机浮点 0.1+0.2 不等于 0.3
|
|
2
ClarkAbe 2020-08-24 17:09:26 +08:00 via iPhone
好吧……眼睛快了
|
 |
3
UnrealEngine OP @ClarkAbe 297.9 会出现 297.89 ，但是 1297.9 就没问题……
|
 |
4
cheng6563 2020-08-24 17:14:22 +08:00
浮点数 k 默认算不准吧，不要靠碰巧了。
概率什么的用用浮点数还行, 其他地方就不要用了。 |
 |
5
misaka19000 2020-08-24 17:15:32 +08:00
IEEE754
|
 |
6
mxT52CRuqR6o5 2020-08-24 17:16:17 +08:00  1
试一下就知道了
floor(297.9 * 100)和 round(297.9 * 100)的结果就已经不一样了 |
 |
7
jimages 2020-08-24 17:17:50 +08:00 3
因为 297.9 * 100 = 29789.999999999996
|
|
8
UnrealEngine OP @jimages 膜拜大佬~~~~
|
 |
9
msg7086 2020-08-24 17:33:00 +08:00
因为计算机无法用有限位数浮点来存储 297.9 。
最接近的可以用 IEEE-754 表示的数，是 297.899993896484375 。 他下一个可以用 IEEE-754 表示的数，是 297.9000244140625 。 可以看到，297.9 是一个无法存储的数字。 |
 |
10
lovecy 2020-08-24 17:58:10 +08:00
精度问题上面大佬#9 说得很清楚了。另外 floor 向下取整，返回 float ； round 四舍五入，返回 float 。对于 297.9，两个函数的返回值本来就不一样，不知道你这里为啥要用这里俩对比。
|
 |
11
ClutchBear 2020-08-24 18:38:39 +08:00
计算机浮点数存储机制的问题
|
 |
12
b00tyhunt3r 2020-08-25 08:48:22 +08:00
|
 |
13
a7217107 2020-08-25 09:35:52 +08:00
IEEE754 月经贴
|
 |
14
CodeCodeStudy 2020-08-25 11:07:08 +08:00 1
你用 var_export(297.9 * 100); 就知道了，得到的是 29789.999999999996
|
Select Language