克勞德.向農 Claude Shannon (1916-2001)

Shannon或許是少見的天才型人物。碩士時,他結合布林運算與二元運算,以開關及電路配置實現邏輯匣,堪稱人類科技史上最重要的碩士論文之一。而後他提出「資訊理論」,不但牽起生物神經電訊號與數位訊號之間的聯想,更是當今資訊時代的基石:「位元」作為資訊的最小單位、資料的儲存與除錯、訊息的傳輸,都可追溯到Shannon的理論。無奈他天生內向、不喜張揚的性格,晚年更因罹患阿茲海默症而深居簡出,成了你我最熟悉的陌生人。

撰文/李尤|編輯/高敬堂
審訂/陳宜欣(國立清華大學資訊工程學系副教授)

●小鎮童年(1916-1932)

1916年,一名男童誕生於美國密西根州的蓋洛德小鎮(Gaylord)。母親Mabel為德裔移民後代,是名語言教師,同時在市立高中擔任校長;父親Claude於法院擔任遺囑認證律師,兩人決定為孩子取了與父親相同的名字──Claude Elwood Shannon。

人生中的前十六年,男孩都是在小鎮上度過的。男孩在學校──尤其科學和數學上──的表現優異,即使在課暇之餘也從不閒著,東摸西摸,親手組合模型飛機、無線電操控的模型船,甚至一個可以和半英里外朋友聯絡的無線電報系統。旺盛的好奇心與創造力或許源自於家族遺傳,因為男孩自己也不知道,自己最仰慕的偶像愛迪生,其實是家族的遠方親戚!

●遇見伯樂(1932-1940)

高中畢業後的Shannon首次提著行李離開家鄉,到密西根大學攻讀電子工程和數學雙學士學位,爾後又轉戰麻省理工學院(Massachusetts Institute of Technology,MIT)攻讀碩士。在MIT,Shannon遇到人生中最重要的導師──在二戰中主導美國軍事科學研究計劃並擔任首位總統科學顧問的Vannevar Bush。

(圖片來源:ElectronicsTutorials

1938年,年僅22歲的Shannon便發表了被譽為「20 世紀最重要、最著名的一篇碩士論文」──《繼電器和開關電路中的符號分析》(A Symbolic Analysis of Relay and Switching Circuits)。在論文中,Shannon以二進位數值運算中的「0」與「1」表示布林邏輯(Boolean logic)中的「真」(true)與「假」(false),並藉由繼電器的串並聯設計組成一個邏輯閘(gate),在電路中實現邏輯運算,也就是所謂的「數位邏輯」(digital logic)。舉例來說,假設:通電為「1」或「真」,未通電為「0」 或「假」;一對並聯的開關(如右圖中的A與B)便相當於邏輯中的「或」(OR,或稱聯集),只要任一個開關接通,燈泡便會亮(電路是通的)。 相反地,一組串聯的開關則相當於「與」(AND,或稱交集),因為燈泡只有在兩個開關都接通的情況下才會亮。

Shannon的這個構想,奠定了現代電腦硬體的基本雛形。後人在他的基礎上,將繼電器替換為電晶體,並蝕刻在矽晶圓上,便成為了你我如今耳熟能詳的超大型積體電路(very-large-scale integration)——晶片。

碩士論文大獲成功,然而恩師Bush卻很快督促Shannon接著準備理論遺傳學方面的博士論文。對於投身工程和數學研究多年的Shannon而言,生物學是一個非常陌生的領域;但Bush看到Shannon的潛力,也深信Shannon是一位通才,不應該在特定領域裡鑽研,埋沒一生。或許是骨子裡帶著的好奇基因,讓Shannon也認識到自己的可塑性,最終也被說服了。

●資訊理論的誕生(1940-1948)

博士畢業後,Shannon離開MIT至普林斯頓大學教書,並同時在普林斯頓高等研究院擔任研究員,與愛因斯坦等許多當時頗具影響力的學者們共事。二戰期間,Shannon空降貝爾實驗室(Bell Labs),成為全職研究員。因應倫敦大轟炸,Shannon在貝爾實驗室的第一個研究項目,便是研發計算和鎖定敵軍飛機及火箭的飛彈防空裝置。此後,他所開發出的通信和保密系統也被美軍採用,保護了盟軍的情報安全。盟軍最高領袖羅斯福、邱吉爾與艾森豪等人之間的通信,便都採用了Shannon參與研發的那套通信加密設備。

1940年代,隨著戰事的尾聲,Shannon終於可以重新專注在他原先感興趣的研究項目,在接觸過電話、無線電、電視與電報等各種資訊傳輸系統後,他開始思考「資訊」(information)的本質,以及數位通信(digital communications)的可能性。將所有東西數位化,並進一步儲存、上傳、下載的想法,也首次在他腦海中浮現。

1948年,Shannon終於將這些想法訴諸文字,發表《一個通訊數學理論》(Mathematical Theory of Communication)。這是篇被《科學人》(Scientific American)譽為「資訊時代大憲章」(the Magna Carta of the information age)的劃時代論文,更在次年為滿足一般讀者的需求,被另一位知名科學家Warren Weaver改寫為較通俗的版本——《那個通訊數學理論》(The Mathematical Theory of Communication)。

在文中,Shannon勾勒出一個通訊系統的基本架構:「訊息來源」(information source,也就是訊息的發送者)通過「管道」(channel,可以是一條拉緊的繩子、一條電話線或無線電波)將數位訊號(只有0或1)傳送給「接收者」(receiver)。由於實際傳遞的只有1(是)與0(非)兩種訊號而已,因此一個通訊系統的成敗關鍵,便在於接收者能否以最少的是非題推測出原始訊息。

假設欲傳送的原始訊息是以「F」字母開頭的一句完整英語句子。一個直觀的想法是按照英語26個字母的排列順序,依次詢問是否為該字母:

Q1. 第一個字母是「A」嗎?
A1. 不是。

Q2. 第一個字母是「B」嗎?
A2. 不是。

Q3. 第一個字母是「C」嗎?
A3. 不是。

Q4. 第一個字母是「D」嗎?
A4. 不是。

Q5. 第一個字母是「E」嗎?
A5. 不是。

Q6. 第一個字母是「F」嗎?
A6. 是。

→第一個字母是「F」

然而這種方式並不符合「最少問題」的要求;另一個更有效率的方法,則是將26個英文字母按字母順序分為前後兩部分,並詢問第一個字母屬於哪一部分,而後逐步縮小範圍:

Q(1). 第一個字母是在A到N之間嗎?
A(1). 是。

Q(2). 第一個字母是在A到F之間嗎?
A(2). 是。

Q(3). 第一個字母是在A到C之間嗎?
A(3). 不是。

Q(4). 第一個字母是「D」嗎?
A(4). 不是。

Q(5). 第一個字母是「E」嗎?
A(5). 不是。

→第一個字母是「F」

透過第二種方式,接收者可以更少的是非題得知發送者原始訊息中的第一個字母。不過,真的無法再壓低問題數了嗎?在上述例子中,我們假設接收者與發送者彼此並不熟悉,因此接收者的每一道是非題其實都像在拋擲一枚硬幣,因為發送者的回答對於接收者而言總是充滿不確定與驚喜。然而隨著時間日久,即使接收者只是默默觀察發送者所送出的訊息,而未曾與發送者有直接的接觸,也能逐漸掌握其中的規律,於是能以更有效率、更有針對性的方式問問題,以更少的問題數達到相同的目的。

Shannon以機率來描述這樣的改變,推導出量化資訊「不確定性」或「驚喜程度」的公式,後來發現意外地與熱力學中的「熵」(entropy)相似(物理學中,熵原是表示一個系統的混亂與無秩序程度)。為了方便計算,Shannon採用「位元」(bit)作為傳遞一個訊息所需平均問題數的單位,而這個選擇頗具巧思:一來在美式俚語中,「2 bits」代指25美分硬幣(即使從未發行過12.5美分面額的硬幣),象徵每道是非題在機率上就像在丟銅板;二則可將其視為「二進位數元」(binary digit)的混成字。以上述的情境為例,傳遞一個英文字母所需要的數據量便是5個位元(準確值為4.7,因為有些字母只需要4個問題);而一段有意義的語句所選用的字詞通常不會是隨機的,因此有其規律可循,也就意味著更低的熵值(不確定性)與更少的位元(問題數)。較低的熵值,意味著較小的資訊量,於是等量的數據便能承載更多訊息,這也是資料壓縮的概念雛形。

然而還有另一個因素可能影響一個通訊系統的成敗。一陣風輕輕拂過拉緊的細繩、電線中的熱擾動或宇宙微波背景輻射所造成收音機裡的沙沙聲,這些管道內天然存在的「雜訊」(noise),造成數據可能在途中被「竄改」,資訊於是在傳遞的過程中傳抄錯誤。我們可以在一組接收者與發送者的應答中,穿插所謂「同位位元」(parity bit):這些同位位元並非發送者回覆接收者的答案,而是由系統自動產生,告訴接收者在這一組應答中,發送者總共發出了偶數次或奇數次的「是」,讓接收者能夠回頭確認所接收到的數據。

這樣的核校機制,也是為何我們可以用刀片在光碟片上劃一刀,光碟卻依然可以正常播放的奧秘;然而與此同時,在承載訊息的必要位元外,外加了多餘的「無效」(未承載訊息,只為了除錯)位元,降低了有效傳輸量。於是一個管道在單位時間內所能傳輸的資訊量,其實受限於該管道內的雜訊:雜訊影響越大,我們就被迫加入更多「無效」位元,壓縮必要位元的空間,也就是所謂的「向農極限」(Shannon's limit)或「向農容量」(Shannon capacity)。不過Shannon只是拋出了這樣的猜想,並未留下解方。在之後的五十年內,無數資訊工程師、數學家與電腦科學家們前仆後繼,只為了趨近或突破這條界線,讓訊息的傳輸更有效率,過程之中催生了傳真、無線通訊等現代通訊系統。

Shannon一手構築了整個數位傳輸領域的基礎,因此贏得了「資訊理論之父」的稱號。他一夜成名,躋身學術界的大名人,成為美國科學界中最耀眼的一顆星。「資訊理論」頓時成了當時的時髦用語,從地質學、政治學再到音樂學,各個學科都恨不得能攀親帶故、沾些光。然而,生性靦腆、謙虛的Shannon卻對這樣的光環感到十分不自在,並認為自己的資訊理論其實過譽了。他曾表示:「我的目標從來都不是為了獲獎,我的動力更多是源自於好奇心,而不是對財富的渴望。我只是想弄清楚事物的組成原理、執行的規則,或是否有什麼理論能決定事物的是與非。」有舞台恐懼的他甚少出席授獎儀式,演講邀請函也通常會被他直接扔進垃圾桶。

「Shannon超出常人的智商往往會使得他有一種冷漠的氣質。」、「你可以敲開他的門,他也會回應你的話,但除此以外,他只會跟自己說話。」這些是貝爾實驗室裡曾與Shannon共事的同事們對他的印象。然而,也是在同一個地方,Shannon結識了他一生的伴侶,與當時在實驗室擔任數值分析員的Betty(出生時的本名為Mary Elizabeth Moore)於1949年結婚,日後生下三名子女。

●機器人與西洋棋(1949-1978)

卸下學者身分的Shannon就像個大頑童:愛好玩具機器人、雜耍、西洋棋,甚至趁夜深人靜時,在貝爾實驗室的大廳裡騎獨輪腳踏車。他是個徹頭徹尾的修補匠和發明家,家中有一整個房間塞滿了自己發明、滿滿童趣、自稱為「無用之物」的裝置:可以用羅馬數字計算的電腦、可以復原魔術方塊的機器、汽油驅動的彈簧高蹺、吹奏時會噴火的小號,還有幾個會玩雜耍球的機器人。他曾在紀錄片中親自示範如何丟球雜耍,也有幾篇「正經」的學術論文其實是在討論如何讓多個物品同時停留在空中的動力學研究。除此之外,他也開過飛機、吹奏單簧管,是個名副其實的傳統爵士樂愛好者。

秉持著對機器人及西洋棋的熱愛,與Betty結婚的那一年,Shannon在資訊理論的基礎上,打造了一個可以與人對弈的初階電腦。一年後,他進一步寫下《編程一臺會下棋的電腦》(Programming a Computer for Playing Chess),說明資訊理論不僅適用於自然語言,也可套用在電腦語言中。而後無論是1997年擊敗西洋棋世界冠軍Garry Kasparov的超級電腦「深藍」(DeepBlue,由IBM研發),或於2016年擊敗圍棋世界冠軍李世乭的人工智慧AlphaGo(由Google DeepMind研發),都是受到Shannon的影響與啟發。

1956年,Shannon重返MIT教書,同時繼續擔任貝爾實驗室的顧問。同年,他受John McCarthy、Marvin Minsky與Nathaniel Rochester三人的邀請,共同組織了達特茅斯會議(Dartmouth Workshop)。在這場近代科技史上具指標性地位的會議中,「人工智慧」終於脫離其他學科,成為獨立的研究項目。當時會議上所引發的諸多討論,包括自動計算機、電腦編程、語言神經網絡、計算規模理論等議題,時至今日仍在AI這個新興領域中發酵。

●沈默晚年(1978-2001)

1972年,美國電機電子工程師學會(IEEE)設立了有「資訊理論研究的諾貝爾獎」之稱的「向農獎」(Claude E. Shannon Award),他本人則是第一位獲獎人。1985年,日本民間為表彰對人類科學進展有重大貢獻者,仿照諾貝爾獎創立了「京都基礎科學獎」(京都賞基礎科学部門),Shannon也是首位得主。自此之後,Shannon逐漸淡出公眾的視野。當貝爾實驗室將一棟新建築冠以Shannon之名,落成典禮上,他沒有現身。家鄉蓋洛德小鎮為他鑄像,儀式上是妻子Betty代為出席。親朋好友們開始在Shannon的身上觀察到阿茲海默症的前兆,將他送入養護中心。

1993年,Shannon的論文集出版,其中包含127種出版物,主題從通訊到電腦、雜耍到會下棋的機器人,正如他的興趣──包羅萬象。

2001年2月,Shannon終究在與病魔的纏鬥中敗下陣來,享壽84歲。學者們為Shannon舉辦了一場座談會,緬懷他在資訊與通訊領域非凡的成就,也向他一手締造的數位時代致敬。

雖然他不曾親手打造一張光碟、一支手機、一臺電腦或任何通訊、儲存設備,但我們所熟悉的資訊世界,卻是建構在Shannon天馬行空的想像之上。只是避俗、不喜張揚的性格,由眾人的記憶中抹去了他存在的痕跡,正如阿茲海默症最終也為他抹去了這個世界,不如相忘。

 

參考資料

  1. Claude E. Shannon — Information Theory Society. Itsoc.org. (2020).
  2. Cruise, B. Journey into information theory | Computer science | Khan Academy [Video].
  3. Effros, M., & Poor, H. (2017). Claude Shannon: His Work and Its LegacyEMS Newsletter2017-3(103), 29-34.
  4. Soni, J., & Goodman, R. (2017). A mind at play. Simon & Schuster.
  5. University of California Television (UCTV). (2008). Claude Shannon – Father of the Information Age[Video].
  6. 楊玉齡(譯)(民102)。小提琴家的大拇指:基因密碼裡關於愛情、戰爭與天才的失落傳奇(原作者:Sam Kean)。臺灣:大塊文化。(原著出版年:2013)。
  7. 賴盈滿(譯)(民100)。資訊:一段歷史、一個理論、一股洪流(原作者:James Gleick)。臺灣:衛城出版。(原著出版年:2011)。

(本文為教育部「人工智慧技術及應用人才培育計畫」成果內容)

views