单精度浮点数的“分辨率”:为什么在计算机里 1000 万和 1000 万加 0.01 可能是一样的?

想象你手里有一把神奇的尺子,用来测量这个世界。

但这把尺子有一个奇怪的属性:它不是均匀的

当你测量微小的物体(比如细菌、细胞)时,这把尺子的刻度极其精细,甚至能分辨出原子级别的差异。

但随着你测量的物体越来越大(比如桌子、房子、山脉),尺子的刻度突然变得粗糙起来。到了测量地球直径时,这把尺子的最小刻度竟然变成了1米

这意味着,如果你问它:“地球直径是 12,742,000 米还是 12,742,000.5 米?”

它会告诉你:“对我来说,这两个数是一样的。”

这就是计算机中浮点数(Floating Point)的真实面貌。


1. 密度不均匀

在计算机(特别是使用单精度 float 时)的世界里,数字的分布是不均匀的:

  • 在 0 附近:数字挤得像沙丁鱼罐头。 在 0 到 0.01 之间,藏着超过1亿个不同的数字。计算机在这里拥有极高的“分辨率”。
  • 在 100 万附近:数字开始稀疏,但咱们感觉不太出来。
  • 在 1000 万 () 附近:危机出现了。对于单精度浮点数,一旦超过 838 万 (),相邻两个数字之间的距离(Gap)就变成了 1.0

这意味着,在 1000 万这个量级,计算机使用单精度浮点数会觉得根本不存在 "10000000.01" 这个数字。

如果你试图在代码里写 10000000.0 + 0.01,计算机会把它存为 10000000.0。那 0.01 的增量,就像往大海里滴了一滴水,连水位都测不出来,直接被舍入误差吃掉了。


2. 整数都会丢

假如哈,这里咱们假如咱们的浮点数不受到精度限制,那么可能还会有一种情况:当绝对值足够大之后,两个相邻的浮点数之间的差超过1!

这就意味着,绝对值足够大之后,有的整数都无法用浮点数来表示了!

单精度浮点数分布统计 (按 10 的整数幂分段)

数量级区间 区间整数的个数 可表示浮点数个数 缺失整数比例 状态说明
~ 9 27,262,976 - 精度充足 (可表示所有整数)
~ 90 27,787,264 - 精度充足 (可表示所有整数)
~ 900 28,442,624 - 精度充足 (可表示所有整数)
~ 9,000 27,410,432 - 精度充足 (可表示所有整数)
~ 90,000 27,725,824 - 精度充足 (可表示所有整数)
~ 900,000 28,365,824 - 精度充足 (可表示所有整数)
~ 9,000,000 27,554,432 - 精度充足 (可表示所有整数)
~ 90,000,000 27,665,824 69.26% 临界点 (刚好能表示部分整数)
~ 900,000,000 28,290,824 96.86% 精度丢失 (步长>8, 大量整数无法表示)

Image

看上面的可视化图表(蓝色曲线):

  • 横轴是数值的大小(从左边的极小值到右边的极大值)。
  • 纵轴是“台阶的高度”,也就是相邻两个数字的差值。
  • 你发现蓝色曲线是一条陡峭上升的线。说明:数值越大,精度丢失得越快

图中有两条关键的虚线:

  • 红色虚线 (0.01):当蓝色曲线穿过这条线时(大约在 6.5 万左右),单精度浮点数如果你用做货币计算,超过 6 万元后,分位可能就会开始出错。
  • 绿色虚线 (1.0):当蓝色曲线穿过这条线时(大约在 840 万左右),浮点数彻底退化为整数。此时任何小数部分都会被直接丢弃。后面甚至一些整数都会被跳过。


3. 这对意味什么?

那个“按段分布统计”的输出结果揭示了一个大家平时未必关注的事实:计算机分配给“小数字”的编码空间远远多于“大数字”。

  • 前几段(极小的数值范围):包含了数以亿计的浮点数。
  • 后几段(极大的数值范围):虽然数值跨度高达,但里面能塞进的浮点数却寥寥无几。

结论与建议:

  1. 不要出于惯性思维不经考虑就在可能有大绝对值的场景下贸然用单精度 (float) 浮点数。尤其是处理货币金融或高精度科学数据。
  2. 如果性能不是问题,那考虑到数值精度,双精度 (double) 是更好的选择。双精度的“刻度变粗”的临界点推迟到了  (一百万亿)。这意味着在双精度下,可以安全地计算直到几亿亿的金额,依然保留小数精度。
  3. 理解局限性。计算机不是数学真理的化身,很多数据类型都是对现实世界的一个近似。当我们处理的数据跨越巨大的数量级时,必须时刻警惕这种“分辨率陷阱”。

下次看到程序里出现诡异的 0.000000 或者加法不生效时,就可以考虑,也许是那把“神奇的尺子”在那个刻度上,刚好没有更细的格子了。

预览时标签不可点

Close

更多

Name cleared

微信扫一扫赞赏作者

Like the AuthorOther Amount

赞赏后展示我的头像

作品

暂无作品

Like the Author

Other Amount

¥

最低赞赏 ¥0

OK

Back

Other Amount

更多

赞赏金额

¥

最低赞赏 ¥0

1

2

3

4

5

6

7

8

9

0

.

基础知识 · 目录

基础知识

上一篇数学建模与Python:传染病模型与森林火灾-从空间传播到自组织临界性下一篇学习率的前世今生:从全局单一到逐层定制

Close

更多

搜索「」网络结果

Close

调整当前正文文字大小

更多

100%