嗨！昨天我試著寫點關于浮點數的東西，我發現自己對這個 64 位浮點數的計算方法很好奇：

>>> 0.1 + 0.2
0.30000000000000004

我意識到我并沒有完全理解它是如何計算的。我的意思是，我知道浮點計算是不精確的，你不能精確地用二進制表示 0.1，但是：肯定有一個浮點數比 0.30000000000000004 更接近 0.3！那為什么答案是 0.30000000000000004 呢？

如果你不想閱讀一大堆計算過程，那么簡短的答案是： 0.1000000000000000055511151231257827021181583404541015625 + 0.200000000000000011102230246251565404236316680908203125 正好位于兩個浮點數之間，即 0.299999999999999988897769753748434595763683319091796875 （通常打印為 0.3） 和 0.3000000000000000444089209850062616169452667236328125（通常打印為 0.30000000000000004）。答案是 0.30000000000000004，因為它的尾數是偶數。

浮點加法是如何計算的

以下是浮點加法的簡要計算原理：

• 把它們精確的數字加在一起
• 將結果四舍五入到最接近的浮點數

讓我們用這些規則來計算 0.1 + 0.2。我昨天才剛了解浮點加法的計算原理，所以在這篇文章中我可能犯了一些錯誤，但最終我得到了期望的答案。

第一步：0.1 和 0.2 到底是多少

首先，讓我們用 Python 計算 0.1 和 0.2 的 64 位浮點值。

>>> f"{0.1:.80f}"
'0.10000000000000000555111512312578270211815834045410156250000000000000000000000000'
>>> f"{0.2:.80f}"
'0.20000000000000001110223024625156540423631668090820312500000000000000000000000000'

這確實很精確：因為浮點數是二進制的，你也可以使用十進制來精確的表示。但有時你只是需要一大堆數字:)

第二步：相加

接下來，把它們加起來。我們可以將小數部分作為整數加起來得到確切的答案：

>>> 1000000000000000055511151231257827021181583404541015625 + 2000000000000000111022302462515654042363166809082031250
3000000000000000166533453693773481063544750213623046875

所以這兩個浮點數的和是 0.3000000000000000166533453693773481063544750213623046875。

但這并不是最終答案，因為它不是一個 64 位浮點數。

第三步：查找最接近的浮點數

現在，讓我們看看接近 0.3 的浮點數。下面是最接近 0.3 的浮點數（它通常寫為 0.3，盡管它不是確切值）：

>>> f"{0.3:.80f}"
'0.29999999999999998889776975374843459576368331909179687500000000000000000000000000'

我們可以通過 struct.pack 將 0.3 序列化為 8 字節來計算出它之后的下一個浮點數，加上 1，然后使用 struct.unpack：

>>> struct.pack("!d", 0.3)
b'?\xd3333333'
# 手動加 1
>>> next_float = struct.unpack("!d", b'?\xd3333334')[0]
>>> next_float
0.30000000000000004
>>> f"{next_float:.80f}"
'0.30000000000000004440892098500626161694526672363281250000000000000000000000000000'

當然，你也可以用 math.nextafter：

>>> math.nextafter(0.3, math.inf)
0.30000000000000004

所以 0.3 附近的兩個 64 位浮點數是 0.299999999999999988897769753748434595763683319091796875 和 0.3000000000000000444089209850062616169452667236328125。

第四步：找出哪一個最接近

結果證明 0.3000000000000000166533453693773481063544750213623046875 正好在 0.299999999999999988897769753748434595763683319091796875 和 0.3000000000000000444089209850062616169452667236328125 的中間。

你可以通過以下計算看到：

>>> (3000000000000000444089209850062616169452667236328125000 + 2999999999999999888977697537484345957636833190917968750) // 2 == 3000000000000000166533453693773481063544750213623046875
True

所以它們都不是最接近的。

如何知道四舍五入到哪一個？

在浮點數的二進制表示中，有一個數字稱為“尾數”。這種情況下（結果正好在兩個連續的浮點數之間），它將四舍五入到偶數尾數的那個。

在本例中為 0.300000000000000044408920985006261616945266723632812500。

我們之前就見到了這個數字的尾數：

• 0.30000000000000004 是 struct.unpack('!d', b'?\xd3333334') 的結果
• 0.3 是 struct.unpack('!d', b'?\xd3333333') 的結果

0.30000000000000004 的大端十六進制表示的最后一位數字是 4，它的尾數是偶數（因為尾數在末尾）。

我們用二進制來算一下

之前我們都是使用十進制來計算的，這樣讀起來更直觀。但是計算機并不會使用十進制，而是用 2 進制，所以我想知道它是如何計算的。

我不認為本文的二進制計算部分特別清晰，但它寫出來對我很有幫助。有很多數字，讀起來可能很糟糕。

64 位浮點數如何計算：指數和尾數

64 位浮點數由 2 部分整數構成：指數和尾數，還有 1 比特 符號位.

以下是指數和尾數對應于實際數字的方程：

例如，如果指數是 1，尾數是 2**51，符號位是正的，那么就可以得到：

它等于 2 * (1 + 0.5)，即 3。

步驟 1：獲取 0.1 和 0.2 的指數和尾數

我用 Python 編寫了一些（to 校正：這里原文加了一個 inefficient 形容詞，不知道如何翻譯）函數來獲取正浮點數的指數和尾數:

def get_exponent(f):
    # 獲取前 52 個字節
    bytestring = struct.pack('!d', f)
    return int.from_bytes(bytestring, byteorder='big') >> 52
def get_significand(f):
    # 獲取后 52 個字節
    bytestring = struct.pack('!d', f)
    x = int.from_bytes(bytestring, byteorder='big')
    exponent = get_exponent(f)
    return x ^ (exponent << 52)

我忽略了符號位（第一位），因為我們只需要處理 0.1 和 0.2，它們都是正數。

首先，讓我們獲取 0.1 的指數和尾數。我們需要減去 1023 來得到實際的指數，因為浮點運算就是這么計算的。

>>> get_exponent(0.1) - 1023
-4
>>> get_significand(0.1)
2702159776422298

它們根據 2**指數 + 尾數 / 2**(52 - 指數) 這個公式得到 0.1。

下面是 Python 中的計算:

>>> 2**-4 + 2702159776422298 / 2**(52 + 4)
0.1

（你可能會擔心這種計算的浮點精度問題，但在本例中，我很確定它沒問題。因為根據定義，這些數字沒有精度問題 -- 從 2**-4 開始的浮點數以 1/2**(52 + 4) 步長遞增。）

0.2 也一樣:

>>> get_exponent(0.2) - 1023
-3
>>> get_significand(0.2)
2702159776422298

它們共同工作得到 0.2:

>>> 2**-3 + 2702159776422298 / 2**(52 + 3)
0.2

（順便說一下，0.1 和 0.2 具有相同的尾數并不是巧合 —— 因為 x 和 2*x 總是有相同的尾數。）

步驟 2：重新計算 0.1 以獲得更大的指數

0.2 的指數比 0.1 大 -- -3 大于 -4。

所以我們需要重新計算：

2**-4 + 2702159776422298 / 2**(52 + 4)

等于 X / (2**52 + 3)

如果我們解出 2**-4 + 2702159776422298 / 2**(52 + 4) = X / (2**52 + 3)，我們能得到：

X = 2**51 + 2702159776422298 /2

在 Python 中，我們很容易得到：

>>> 2**51 + 2702159776422298 //2
3602879701896397

步驟 3：添加符號位

現在我們試著做加法：

2**-3 + 2702159776422298 / 2**(52 + 3) + 3602879701896397 / 2**(52 + 3)

我們需要將 2702159776422298 和 3602879701896397 相加：

>>> 2702159776422298  + 3602879701896397
6305039478318695

棒。但是 6305039478318695 比 2**52-1（尾數的最大值）大，問題來了:

>>> 6305039478318695 > 2**52
True

步驟 4：增加指數

目前結果是：

2**-3 + 6305039478318695 / 2**(52 + 3)

首先，它減去 2**52：

2**-2 + 1801439850948199 / 2**(52 + 3)

完美，但最后的 2**(52 + 3) 需要改為 2**(52 + 2)。

我們需要將 1801439850948199 除以 2。這就是難題的地方 -- 1801439850948199 是一個奇數!

>>> 1801439850948199  / 2
900719925474099.5

它正好在兩個整數之間，所以我們四舍五入到最接近它的偶數（這是浮點運算規范要求的），所以最終的浮點結果是:

>>> 2**-2 + 900719925474100 / 2**(52 + 2)
0.30000000000000004

它就是我們預期的結果：

>>> 0.1 + 0.2
0.30000000000000004

在硬件中它可能并不是這樣工作的

在硬件中做浮點數加法，以上操作方式可能并不完全一模一樣（例如，它并不是求解 “X”），我相信有很多有效的技巧，但我認為思想是類似的。

打印浮點數是非常奇怪的

我們之前說過，浮點數 0.3 不等于 0.3。它實際上是:

>>> f"{0.3:.80f}"
'0.29999999999999998889776975374843459576368331909179687500000000000000000000000000'

但是當你打印它時，為什么會顯示 0.3？

計算機實際上并沒有打印出數字的精確值，而是打印出了最短的十進制數 d，其中 f 是最接近 d 的浮點數。

事實證明，有效做到這一點很不簡單，有很多關于它的學術論文，比如 快速且準確地打印浮點數、如何準確打印浮點數 等。

如果計算機打印出浮點數的精確值，會不會更直觀一些？

四舍五入到一個干凈的十進制值很好，但在某種程度上，我覺得如果計算機只打印一個浮點數的精確值可能會更直觀 -- 當你得到一個奇怪的結果時，它可能會讓你看起來不那么驚訝。

對我來說，0.1000000000000000055511151231257827021181583404541015625 + 0.200000000000000011102230246251565404236316680908203125 = 0.3000000000000000444089209850062616169452667236328125 比 0.1 + 0.2 = 0.30000000000000000004 驚訝少一點。

這也許是一個壞主意，因為它肯定會占用大量的屏幕空間。

PHP 快速說明

有人在評論中指出在 PHP 中 <?php echo (0.1 + 0.2 );?> 會輸出 0.3，這是否說明在 PHP 中浮點運算不一樣？

非也 —— 我在 這里 運行:

<?php echo (0.1 + 0.2 )- 0.3);?>，得到了與 Python 完全相同的答案：5.5511151231258E-17。因此，浮點運算的基本原理是一樣的。

我認為在 PHP 中 0.1 + 0.2 輸出 0.3 的原因是 PHP 顯示浮點數的算法沒有 Python 精確 —— 即使這個數字不是最接近 0.3 的浮點數，它也會顯示 0.3。

總結

我有點懷疑是否有人能耐心完成以上所有些算術，但它寫出來對我很有幫助，所以我還是發表了這篇文章，希望它能有所幫助。