《資訊：一段歷史、一個理論、一股洪流》

2011/10/10 |

| 標籤：

『萬有源自位元。』
“It from bit."

——約翰．惠勒
John A. Wheeler (July 9, 1911 – April 13, 2008)

Photobucket

漫談「資訊（information）」的科普書，談它的歷史、它的理論與它無所不在的影響。

以書名所展示的格局來檢視，本書內容比較側重於資訊的「歷史」刻劃，全書也以時代先後的推進依序檢視「資訊」在人類社群中所扮演的角色，早至十八世紀初西方人發現非洲原居民以鼓聲說話傳遞訊息的古老智慧，晚至二十世紀末量子資訊理論問世，橫跨數世紀關於資訊傳遞的人們與其故事躍然紙上。

只談本書觀後我最感動搖的一個概念，就是資訊與隨機兩者之間的關係。

隨機（random）這個字眼與其它的科學語言不同，不像「纏結（entanglement）」或者「熵（entropy）」給人明顯的疏離感，它彷彿就在我們身旁那樣親切，可以輕易地脫口而出而不感突兀。但這不改變它深邃的本質。隨機，這個字眼在我本身的專業領域中也不斷出現，以至於我幾乎日日夜夜都對它有所感觸，而且面對它的態度與理解與詮釋也都隨著所學而不斷更迭換新。《資訊》這本書又替我帶來了一次這樣的洗滌。

隨機。

隨機可以是一種模式，特徵則是沒有模式。

０１０１０１０１０１

１１００１１１０１０

公正硬幣投擲紀錄，０反１正，上面兩個紀錄都來自同一個隨機過程（也就是二項分配），然而當面對「哪一個比較隨機？」這樣的問題時，我們的腦袋會有一個超越理論思維的答案首先呼之欲出，那就是：下者比較隨機。從統計學或機率論的觀點來看，兩者一樣可能發生（所以請不要懷疑我們第一個可憐的實驗者），但我們的大腦對「模式」有奇特的感應能力，以至於無法抗拒挖掘模式的本能。就跟樂透彩卷一樣，任何一組號碼都是一樣的獲獎機率，我們卻會對像是「1,2,3,4,5,6」這樣的連號中獎產生近乎反射性的驚嘆。當然，台灣樂透彩至今從未出現過這種中獎號碼，而這不會凸顯它的特別，因為我現在任意憑空選取一組號碼，它不會出現在過去歷史中獎名單裡的機率就跟「1,2,3,4,5,6」一樣之低。

模式。我們在乎模式，並賦予特別觀感。

如果只從機率論的角度切入，恐怕我們到此為止。沒有更多訊息好談了。

——從資訊理論的視野來瞧瞧吧！
在第一個實驗過程紀錄哩，我們看見了模式，模式賦予了我們預測的能力，當我們能夠預測一個模型，也就意味著它不再能提供我們更多的訊息。反觀第二個實驗，當紀錄越拉越長我們卻仍舊無法辨認模式的時候，代表每一個新的資訊，都是一道消息、一個參考、一種驚奇。這個時候，「不可預測」與「隨機」這個觀點搭上了線，同時我們發現資訊量與隨機性成正關係：一個物體越簡單，透漏的資訊越少。

或許我們要反過來看，越簡單的物體應該能用越少的資訊來描述。（這是個充分且必要的命題。）

機率論探討隨機表象背後形成的理論基礎，資訊理論進一步嘗試描述隨機表象的資訊意涵。我們要用多少的位元（binary digit, bit）才能描述第一行結果？因為它存在模式，所以需要的位元數可以少於第二行結果——一定可以找到一個演算法用少於十個位元的資訊量來表達第一個結果，而第二個卻無法。如果第二行結果真的是「亂數」，那怕它其實是與第一行同樣來自二項分配的實現值，那我們就需要等同於其長度的位元數才能完整描述它。在統計理論架構上他們的隨機性是一樣的，但在資訊理論架構而言兩者可以天壤之別。

同樣來自隨機本質的事物，資訊理論是描述的延伸——統計學挖掘因子，資訊理論則包裝結果，兩者對於我們看待世界真理都具有不可或缺的價值。

『萬有源自位元。』

機率論無法解釋我們大腦何以對模式有那麼盲目的熱情，從這點來看它確實顯得冰冷；資訊理論在此處切入，帶來了另一番教人「適得其所」的詮釋。