定義亂度「熵」──波茲曼誕辰｜科學史上的今天：2/20

即使再怎麼模仿，AI 終究無法以與生物相同的方式思考吧？畢竟電腦的電子元件和我們大腦中的神經細胞結構截然不同。再怎麼模仿，AI 終究無法以與生物相同的方式思考吧？

錯，可以。

2024 年諾貝爾物理學獎跌破所有專家的眼鏡，頒給了兩位研究機器學習的科學家——約翰·霍普菲爾德（John Hopfield）和傑佛瑞·辛頓（Geoffrey Hinton）。他們以「人工」的方法打造了類神經網路，最終模擬出生物的「智慧」，奠定了當代深度學習的基礎。

為什麼解決人工智慧發展瓶頸的，竟然會是物理學？物理要怎麼讓 AI 更像人類？

從巴甫洛夫的狗到赫布理論：理解學習的基礎

為了解答這個疑問，我們需要一些背景知識。

20 世紀初，俄羅斯心理學家巴甫洛夫發現，狗在食物還沒入口前，就會開始分泌唾液。他進行了一系列實驗，改變食物出現前的環境，比如讓狗習慣在聽到鈴聲後馬上得到食物。久而久之，狗只要聽到鈴聲，就會開始分泌唾液。

大約 50 年後，神經科學家赫布（Donald Hebb）提出了一個假說：大腦中相近的神經元，因為經常同時放電，會產生更強的連結。這種解釋稱為「赫布理論」，不僅奠定了神經心理學的發展，更成為現代深度學習的基礎。

然而，赫布理論雖然描述了鄰近神經元的關係，卻無法解釋大腦如何建構出如此複雜的聯想網路。

霍普菲爾德網路：物理學家對神經網路的貢獻

然而，赫布理論雖能描述神經元之間的關係，卻缺乏數學模型。物理學家約翰·霍普菲爾德從數學家約翰·康威（John Conway）的「生命遊戲」（Game of Life）中獲得靈感，試圖建立一個可以在電腦上運行的記憶系統。

「生命遊戲」由數學家康威（John Conway）發明，玩家開始時有一個棋盤，每個格子代表一個細胞，細胞可以是「活」或「死」的狀態。根據特定規則，細胞會根據鄰居的狀態決定下一次的生存狀態。康威的目的是展示複雜的系統不一定需要複雜的規則。

霍普菲爾德發現，這個遊戲與赫布理論有強大的關聯性。大腦中的大量神經元，在出生時處於初始狀態，經過刺激後，神經元間的連結會產生或斷裂，形成強大的記憶系統。他希望利用這些理論，創造一個能在電腦上運行的記憶系統。

然而，他面臨一個難題：赫布理論沒有明確的數學模型來決定神經元連結的規則。而在電腦上運行，必須要有明確的數學規則。

物理學的啟發：易辛模型

霍普菲爾德從物理學的研究中找到了類似的模型：易辛模型（Ising Model）。這個模型用於解釋鐵磁性物質的磁性特性。

在鐵磁性物質中，電子具有「自旋」，自旋產生磁矩。電子的自旋方向只有「向上」或「向下」，這就像生命遊戲中細胞的「生」或「死」。鄰近的電子會影響彼此的自旋方向，類似於細胞之間的互動。

易辛模型能用數學描述電子間的相互影響，並通過計算系統能量，得出自旋狀態的分佈。霍普菲爾德借用了這個概念，將神經元的互動視為電子自旋的互動。

他結合了康威生命遊戲的時間演化概念、易辛模型的能量計算，以及赫布理論的動態連結，創造了「霍普菲爾德網路」。這讓電腦能夠模擬生物大腦的學習過程。

突破瓶頸：辛頓與波茲曼機

然而，霍普菲爾德網路並非完美。它容易陷入「局部最小值」的問題，無法找到系統的全局最優解。為了解決這個問題，加拿大計算機科學家傑佛瑞·辛頓（Geoffrey Hinton）提出了「波茲曼機」（Boltzmann Machine）。

辛頓將「模擬退火」的概念引入神經網路，允許系統以一定的機率跳出局部最小值，尋找全局最優解。他還引入了「隱藏層」的概念，將神經元分為「可見層」和「隱藏層」，提高了網路的學習能力。

受限波茲曼機（Restricted Boltzmann Machine）進一步簡化了模型，成為深度學習的基礎結構之一。這些創新使得 AI 能夠更有效地模擬人類的思維和學習過程。

AI 的未來：跨學科的融合

霍普菲爾德和辛頓的工作，將物理學的概念成功應用於人工智慧。他們的研究不僅解決了 AI 發展的瓶頸，還奠定了深度學習的基礎，對現代 AI 技術產生了深遠的影響。因此，2024 年諾貝爾物理學獎頒給他們，並非意外，而是對他們在跨學科領域的重大貢獻的肯定。

AI 的發展，離不開物理學、生物學、數學等多學科的融合。霍普菲爾德和辛頓的工作，正是這種融合的典範。未來，隨著科學技術的進步，我們有理由相信，AI 將越來越接近人類的思維方式，甚至可能超越我們的想像。

我們都感覺到相同的時間嗎？

在二十世紀之前，科學認為時間是普適的：每個人和宇宙中的一切，都感覺到相同時間。那時的假設是，你如果在宇宙裡四處擺滿了一模一樣的時鐘，那麼每個時鐘在任何時刻都會顯示相同時間。畢竟，這就是我們在日常生活中遇到的情況。想像一下，如果每個人的鐘都以不同的速度奔跑，會是多麼混亂！

但後來，愛因斯坦的相對論把空間與時間結合成「時空」^*1 概念，改變了一切。愛因斯坦強調，移動中的時鐘運行速度較慢。如果你以接近光速行駛至附近的星星，那麼你體驗的時間，將遠遠少於在地球上的時間。這並不是說你覺得時間過得很慢，像是「駭客任務」中的慢動作鏡頭那樣，而是說地球上的人和時鐘測量到的時間，會比宇宙飛船上的時鐘量到的更長。我們都以同樣的方式（以每秒一秒的節奏）體驗時間，但是如果我們彼此以相對高速移動，我們的時鐘就不會同步。

在瑞士的某個地方，製錶師剛剛心臟病發作。

一模一樣的時鐘卻以不同速度運行，似乎違背了所有的邏輯論證，但宇宙就是這樣運行的。我們知道這是真的，因為我們己經在日常生活中見證了。你的手機（或汽車、飛機）上的 GPS 接收器，會假定繞地球跑的 GPS 衛星時間走得較慢（衛星以每小時數千里的速度，在受地球巨大質量彎曲的空間中移動）。沒有這些資訊，你的 GPS 設備將無法從衛星傳輸的信號中，精確的同步和進行三角定位。關鍵是當宇宙遵循某個邏輯法則時，這些法則有時不見得如你所想。以這個案例來說，宇宙有個最高速限：光速。根據愛因斯坦的相對論，沒有任何東西、資訊甚至是外送披薩的旅行速率，可以比光跑得快。這個速率（每個時段所移動的距離）的絕對上限，會產生一些奇怪後果，並挑戰我們的時間概念。

首先，先確定我們了解這個速率限制是如何運作的。最重要的規則是：從任何角度來衡量任何人的速率時，這個速率限制都必須適用。我們說沒有什麼東西可以比光速還快時，無論你用什麼觀點來看，就是「沒有」。

所以我們來做個簡單的思考實驗。假設你坐在沙發上並打開手電筒。對你來說，手電筒的光線以光速遠離你。不過，我們是否可以把你的沙發綁在火箭上，點燃火箭然後讓沙發以驚人的速度移動呢？如果此時你打開手電筒，會發生什麼事？如果把手電筒指向火箭前方，光線是否以光速再加上火箭的速率移動呢？

我們將在第十章〈我們能以超光速移動嗎？〉花更多時間在這些想法上。但重要的是，為了讓所有觀察者（在火箭上的你和我們其他在地球上的人）看到，手電筒的光線都是以光速移動的，於是某些東西必須改變，這個東西就是「時間」。

為了幫助你理解這個概念，讓我們回到把時間當做時空第四維度的想法。這個想法有助於想像物體如何穿越時間和空間，而把宇宙速限應用在你的總速率上。如果你坐在地球上的沙發裡，你沒有穿越空間（相對於地球）的速率，所以你穿越時間的速率可以很高。

但如果你坐在火箭上，對地球而言，火箭的移動速度接近光速，那麼你穿越空間的速率是非常高的。因此，為了讓你穿越時空的總速率在相對於地球時，保持在宇宙速限之內，你的時間速率必須減少，在此所有的速率量測都使用地球上的時鐘。

還讀得下去嗎？

對於不同人可以回報不同時間長度，你可能很難接受，但這是宇宙的運作方式。更奇怪的是，人們可能會在某些情況下，看到事件以不同順序發生，而且都是正確的。舉例來說，兩位誠實的觀察者，如果以非常不同的速度移動，他們會對誰贏得直線競速賽有不同的看法。

如果你的寵物美洲駝和雪貂進行賽跑，那麼，依據你的移動速度和相對於比賽場地的距離，你可以看到心愛的美洲駝或雪貂贏得比賽。每隻寵物都會有屬於自己事件的版本，如果你的祖母能夠以接近光速的速率移動，她看到的比賽結果可能完全不同。而且，所有人都是正確的！（不過要注意的是，每個人的時間起始點都不相同。）

我們喜歡認為宇宙有絕對真實的歷史，所以不同人可以體驗不同的時間，是令人難以接受的想法。我們可以想像，原則上有人可以寫下宇宙至今發生的每一件事（這會是非常冗長的故事而且大半都超級無聊）。如果這故事存在，那麼每個人都可以根據自己的經驗來進行檢查，除非是無心之過或視力模糊，每個人讀的故事應該要一致。但愛因斯坦的相對論使得一切都是相對的，所以不同觀察者對於宇宙裡事件的先後順序，會有不同的描述。

最終我們必須放棄宇宙有絕對單一時鐘存在的想法。雖然因此我們有時會遇到違反直覺且看似荒謬的領域，但驚人的是，這種看待時間的方式已測試為真。與許多物理革命一樣，我們被迫拋棄自我的直覺，並遵循受時間主觀意識影響較小的數學之道。

時間會停止嗎？

打從一開始，人們就想排除時間會停止的概念。時間除了向前，我們從未見過它做過其他事，既然如此，時間怎麼可能還有別的選項呢？由於我們本來就不清楚為什麼時間要前進，所以很難自信的說，時間向前是永恆真理。

一些物理學家相信，時間的「箭頭」是根據熵必須增加的法則所決定。也就是說，時間的方向與熵增加的方向相同。但如果這是真的，當宇宙達到最大熵時會發生什麼事？在這樣的宇宙裡，一切都將處於平衡而且不能創造秩序。那麼，時間會在這一點停下來嗎？還是時間不再有意義？一些哲學家猜測，在這個時刻，時間的箭頭和熵增加的法則可能會逆轉過來，導致宇宙縮小到一個微小奇點。不過，這個說法比較像是深夜裡藥吃多了後激發的猜測，而不是實際的科學預測。

還有理論提出大霹靂創造了兩個宇宙，一個時間向前流逝，一個時間向後奔流。更瘋狂的理論則提出時間不只一個方向。為什麼不呢？我們可以在三個（或更多）空間方向中移動，為什麼不能有兩個或更多的時間方向？真相為何？如往常一樣，我們不知道。

註解

1. 愛因斯坦的天才並沒有展現在為事物命名上面。

——本文摘自《關於宇宙我們什麼都不知道》，2023 年 9 月，天下文化出版，未經同意請勿轉載。

為什麼時間向前走？

既然我們不能回到過去，你可能會合理的問：「為什麼時間向前走？」

對我們來說，時間不向前走的概念是匪夷所思的。你不會期待烤箱能把煮熟的食物變回原料，或杯子內的飲料在炎熱的日子裡形成冰塊，甚至女童軍餅乾也不會憑空出現。所有事情都以我們非常熟悉的方式隨時間前進，但如果你看到逆著時間走的情形，你可能會想自己是否是藥吃多了。

同樣的，你可以記住過去發生的事，但是你不能想起未來發生的事 ^*1。時間似乎有一個偏好的方向，我們不知道為什麼。

為什麼時間只向前走？這個基本問題長久以來深深困擾著物理學家。事實上，「時間向前」到底意味著什麼？在某些宇宙中，時間可能流向其他方向。他們的科學家可能會定義往「那個方向」向前。 所以真正的問題應該是：「為什麼時間朝著它前進的方向移動？」

我們先來考慮，如果時間往其他方向走，宇宙是否能夠運作。 物理學定律要求時間往單一方向流動嗎？想像你正在看某些宇宙影片，你能透過仔細檢查，來判斷影像是否正在向前或向後播放嗎？ 例如，假設你正在觀看一個球上下彈跳的影片，只要球完全彈跳 （並且不會因為摩擦或空氣阻力失去任何能量），那麼這個影像無論是往前或往後播放，看起來都會一模一樣！在罐內反彈的氣體粒子或在河中流動的水分子也是如此。即使量子力學也能逆著時間運作 ^*2。事實上，幾乎每個物理定律在時間往前或往後都可以成立。

但這不是全部的故事。

完全彈跳球的例子是不現實的，因為它忽略了球在地面上的摩擦力、空氣阻力以及諸多其他讓球的能量耗散成熱量的方式。經過幾次彈跳後，即使寵物雪貂最喜愛的超級彈力球也會停止彈跳，最終穩定在地面上。球的所有能量將轉化成熱，傳至空氣分子、球分子或地面分子。

想像一下，倒著播放的彈跳球影像會變得多麼奇怪，坐在地上的球會突然開始彈跳起來，而且愈彈愈高。能量流將看起來更奇怪：空氣、球和地面會冷卻下來，失去的熱將轉化為球的動能。

在這個例子中，你可以肯定指出時間向前和向後的區別。烹飪食物、融化冰塊和吃餅乾等也都相同。但是，如果物理學的大部分定律都能反向工作，特別是熱和擴散等微觀物理，為什麼宏觀過程似乎只在一個時間方向發生？原因是系統中的無序量，也就是熵，非常強烈傾向於單一時間方向。

熵總是隨時間增加。這稱為熱力學第二定律。熵視為某些事物中的無序量。你忘記餵食雪貂時，雪貂會毀壞客廳，撞翻整疊有完整簽名的這本書，雪貂透過增加亂度來提高客廳的熵。

如果你回家重新整理客廳，可以減少客廳的熵，但是這樣做需要相當程度的能量，你把能量釋放成熱、沮喪和低聲咒罵著要如何告訴室友說：「養雪貂是個壞主意。」在整理客廳時，你釋放的能量將保持總熵的增加。每當你產生任何局部秩序，例如：堆疊書籍、在方格紙上做標記，或打開空調時，你都會同時產生亂度這個副產品，且通常以熱的方式呈現。根據熱力學第二定律，平均而言，總熵沿順向時間減少是不可能發生的事。

（注意：這是機率描述。技術上來說，一群憤怒的雪貂有可能意外的組織一個完全有序的隊伍，從而減少了牠們的熵，但機率微乎其微。孤立事件可能發生，但平均熵總是增加。）

這會導致令人不寒而慄的後果：因為熵只會增加，在最終非常非常久遠的未來，宇宙將會達到最大亂度，這有個聽起來很酷的名字：「宇宙熱寂」。在這種狀態下，整個宇宙將處於相同溫度，這表示一切都將完全無序，沒有一丁點有用的有序結構（如人類）。在熱寂之前，我們仍然有空間可以創造局部秩序，只因為宇宙還沒有達到最大亂度。

現在我們逆著時間回想。過去每個時刻，宇宙的熵比現在更少（更有秩序），一直回溯到大霹靂時。把大霹靂當成是搬家卡車和小孩來到新房子之前的那一刻。宇宙的初始狀態（當熵最低時）決定了宇宙從誕生到熱寂之間有多少時間。如果宇宙從一開始就已經有大量亂度，不需要太多時間就能達到熱寂。在我們自身的例子中，宇宙似乎始於非常有序的狀態，在達到最大熵之前給了我們很多時間。

為什麼宇宙從一開始是從高度有組織的低熵狀態中啟動？我們不知道，但是我們確實很幸運，因為宇宙在開始和結束之間，留下了很多時間來做有趣的事情，比如製造行星、人類和冰棒。

熵是否幫助我們了解時間？

熵是少數幾個關心時間如何流逝的物理定律之一。

影響熵的多數過程（例如影響氣體分子如何互相反彈的運動學定律），可以完美的逆著時間走。但大體來說，它們遵循一項定則：有序數量隨時間前進而遞減。所以時間和熵互相以某種方式連接起來。但到目前為止只有一個相關性：熵隨時間而增加。

這是否代表熵導致時間只能向前流動，就像是山丘只讓水往下流那樣；或者熵是遵循時間的箭頭，像被捲入龍捲風的碎片？

即使你接受熵隨時間前進而增加，仍然不清楚為什麼時間只會向前進。例如，你可以想像一個時間向後的熵，熵隨負時間而減少，這將保持熵和時間的關係，而不會違反熱力學第二定律！

與其說熵洞察了時間的一切，不如說它是個線索。熵是我們關於時間如何運作的少數線索之一，所以值得注意。熵是理解時間方向的關鍵嗎？雖然很多人如此臆測，但我們還是毫無頭緒。不僅如此，我們能把這問題弄清楚的辦法也寥寥無幾。

註解

1. 如果你能記得未來的事，請打電話給我們，我們有些問題想請教你。
2. 除了波函數的崩陷之外，有些人認為它是不可逆的、有些人則認為是失去同調性，而其他人只是為了辯論而辯論。

——本文摘自《關於宇宙我們什麼都不知道》，2023 年 9 月，天下文化出版，未經同意請勿轉載。