吳恩達 Andrew Ng(1976-)
除了是知名線上教育平台Coursera的共同創辦人,吳恩達更曾先後任職於中美兩國最大的科技公司──Google與百度。在Google時期,吳恩達團隊最著名的研究之一,莫過於以非監督式學習方法,訓練出對人臉、人體以及貓臉特別敏銳的深度學習模型。之後為中國百度延攬,擔任研發部門主管,帶動了人才與資金的流入,為中國的AI研究注入一股活水。2017年離開百度後,吳恩達致力於打破AI專屬於高科技公司的既定印象,創立自己的顧問公司與創投基金輔導企業轉型。
撰文/江彥成、黃思齊|編輯/高敬堂
審訂/蔡宗翰(國立中央大學資訊工程學系教授)
●一切始於一個演算法
Andrew Ng,是個出生於倫敦並在香港長大的華裔美國人,因此有個十分中文化的中文名字──吳恩達。先後就讀美國卡內基梅隆大學(Carnegie Mellon University,CMU)、麻省理工學院(Massachusetts Institute of Technology,MIT),而後於史丹佛大學任教,在當今電腦科學領域最頂尖的三所大學都曾留下他的足跡。雖然Ng很早就為人工智慧(AI)深深吸引,然而在MIT攻讀碩士時的一場事件,卻讓他停下了腳步。
當時的AI研究才剛剛萌芽,尚處於摸索階段。科學界普遍認為人的智力仰賴大腦中不同腦區的協力合作,如同社會中每個個體各司其職、通力合作,才能共同創造出一個健全的「心靈社會」(the Society of Mind,這是MIT AI實驗室創辦人Marvin Minsky在同名書中所提出的智慧理論)。這派學者認為:要能夠實現接近人類智慧的AI,需要分別建構多個有著不同功能的模組,一個可能負責理解語言,另一個負責言語的表達,再將這些模組連結起來,表現出看似單一智慧體的行為。只是,實現這個構想所需的龐大運算能力,是當時的硬體設備遠遠無法企及的。
運算能力的這堵高牆讓Ng卻步,甚至在2002年進入史丹佛執教後,紛紛勸說自己的學生放棄追求「像人一樣思考的機器」。直到Ng讀到Jeff Hawkins──一位跨足神經科學研究的電機工程師與企業家──在2004年《關於智慧》(On Intelligence)一書中提出的「單一演算法假說」(One Algorithm Hypothesis):大腦中不同腦區(模組)其實共享著同一套程式(演算法),之所以會出現功能上的分化,只是輸入資料不同所造成的。也就是說:我們不需要大費周章為了不同功能的模組設計一套又一套的演算法,而是如何找到那一套可以勝任不同任務的通用演算法。震驚之餘,Ng的眼神為之一亮。「這是我生命中第一次,感到自己在有生之年,還能夠推動 AI 踏出新的一步!」
●源於人腦的深度學習
Ng所跨出的那一步,其實就是以非監督式學習(unsupervised learning)所訓練出的深度學習(deep learning)模型。「深度」,因為所使用的人工神經網路在第一層輸入層與最後一層輸出層之間,夾著多層的隱藏層;隱藏層的多寡,關係著人工神經網路是否能「注意到」樣本的高階、抽象特徵。2010年,Ng加入了Google X 實驗室;2012年,又與Jeff Dean另外組建了Google Brain。大大小小的專案中,Ng的團隊最知名的研究結果之一,便是一個可以辨識貓臉的深度學習模型,即使他們一開始從未料想到「貓」會變成主角。
Ng的團隊由YouTube上的影片中擷取出1,000萬張圖片,作為一個深度學習模型的訓練資料。他們猜想:即使這些圖片都沒有事前經過標註(這是監督式學習常用的手法),人工神經網路仍然可以「辨識出」YouTube影片中常見的事物。這個想法其實源自於神經科學家,他們發現在大腦視覺皮質中的部分神經元與神經迴路,若重複暴露於相同刺激後(例如很常看到某個物件),會對該物件的特徵特別敏銳。這個現象最終也出現在Ng的深度學習模型上,尤其對於圖像中的人臉、人體,以及網路上最常見的療癒影片主角──貓。只是與此同時,Ng心裡明白,這還遠遠不是自己念茲在茲的那個「通用演算法」。
雖然隨著科技進步,硬體設備的運算能力不再是無法克服的高牆,但僅僅是簡單的貓臉辨識,便用到了16,000個處理器,而且準確率並不理想。Ng在自己的Twitter上不諱言地寫道:「雖然類比並不十分精確,但若將我們在研究中用到的類神經網路數量,對比大腦視覺皮層中的神經數量,辨識貓臉只用到大腦中極小的一部分(大約只有一百萬分之一)。」除此之外,Ng也發現數據規模和演算法精確度之間有著正相關──越強大的AI,意味著越多的數據。他開始尋覓那片流淌著數據的應許之地。
●在豐饒的土壤上綻放
Ng於是開始觀望。起初百度幾次邀請,他因為心有疑慮而婉拒了,最後是百度創辦人李彥宏和時任百度深度學習研究院副院長的余凱三顧茅廬打動了他。Ng來到了北京,與李彥宏共進三小時的午餐會;事後,更向媒體列舉了百度的四項優勢:人才頂尖、組織反應能力快、數據豐富且捨得投入硬體。2014年,百度正式宣布聘請Ng為首席科學家及深度學習研究院院長。
Ng的加入,使得原先在矽谷默默無為的百度一夜成名,多位AI領域的頂尖研究人員也表達加入的意願。百度隨後在2014 年成立了百度研究院,結合了既有的深度學習實驗室(由研究院改名)、矽谷人工智能實驗室和大數據實驗室等三大實驗室,希望有朝一日能與美國著名的貝爾實驗室齊名。
除了人才,Ng更為百度注入了矽谷精神。與美國不同(例如Google或更早的貝爾實驗室),中國的市場競爭非常激烈,多數企業對於投資回本困難的研發部門並不熱衷。百度因為Ng的加入,開始加碼投入尖端技術研究,緩解了研發部門的績效壓力,讓Ng有更多自由發揮的空間,研究團隊更一度增長至近1,300人。所開發的AI產品──百度搜索、廣告、地圖、外賣、安全、消費金融等──每天服務上億用戶。
百度研究院最標誌性的研究成果,是百度無人駕駛以及Duer OS對話機器人系統──度秘。2017年初,在中國江蘇衛視的益智競賽節目《最強大腦》上,Ng就帶著當時的研究成果「小度機器人」在跨年齡人臉識別競賽中擊敗了有記憶大師之稱的人類挑戰者王峰,並隨後在聲紋辨識任務上和人類冠軍打成平手。
這一片花團錦簇的繁榮光景,隨著2015年余凱求去後漸顯疲態。百度陸續流失多位重要研究人員,包含深度學習科學家吳韌、無人駕駛項目的負責人倪凱、最年輕的高級科學家戴文淵等人,Ng也在2017年的3月宣布離去。
為什麼?大部分媒體猜測是因為百度內部的問題。據傳百度的搜尋團隊和研究團隊有齟齬,不願意提供搜尋端的資料供研究部門研究;也有一說是Ng在加入百度後,需要同時顧及商業面的需求,與產品銷售團隊打交道,而他志不在此;也有媒體經由Ng的個人社群頁面與公開資料推測,他的離開是為了加入妻子創辦的公司。
Ng的妻子,Carol Reiley,同時也是位電腦科學家。兩人是在2009年IEEE(Institute of Electrical and Electronics Engineers,美國電機電子工程師學會)所舉辦的一場會議中相識的。Ng加入百度的同一年,兩人宣布訂婚,這則喜訊甚至被IEEE刊登出來!Ng除了經常在推特上發佈兩人的甜蜜合照,甚至在課堂上所使用的投影片中也穿插了幾張Reiley的照片。
無論Ng當初離開百度的動機為何,在這三年的時間裡,AI已經深植於百度。如果將AI比喻為新時代的能源,百度在這期間不僅已經充分掌握如何使用,還擔任起了新能源的供應者,為產業界注入動能。至於Ng,在離開百度後,將重心重新轉回到自己的另一個理想──AI的普世化。
●線上學習讓AI不再高不可攀
時序回到2002年,Ng才剛取得美國加州大學柏克萊分校的博士學位,旋又為史丹佛大學延攬為該校的電腦科學系教授。第一年的課堂上只有35位學生選修,但接著逐年增加。不久後,Ng嘗試將自己的課程錄製下來供學生在史丹佛的內網中自由觀看。2008 年,Ng發起了「史丹佛SEE計畫」(Stanford Engineering Everywhere)進一步把餅做大,更獲美國創投公司紅杉資本(Sequoia Capital)的挹注,將資工學院下最受歡迎的三大類課程──計算機概論、人工智慧與機器學習、線性代數──錄製為線上課程,引領全球高等教育機構紛紛建構大規模開放式線上課程(Massive Open Online Course,MOOC)的風潮。雖然SEE計劃早已停止更新,但在Ng轉戰矽谷後,卻「經常碰到上過我網上課程的人」,讓他意識到網路教學的潛力。
因緣際會下,Ng與自己的師長兼同事Daphne Koller,在2012年共同創辦了著名的線上教學平台──Coursera,其教學理念是「打造一個任何地方的任何人都能透過良好學習體驗改變生活的世界」。Ng曾在與MIT AI研究員Lex Fridman的專訪中提到:透過網路學習,養成規律的習慣是關鍵。「以我自己來說,我養成了每週六和週日花點時間看書或學習的習慣,習慣會讓這變得更容易。就像刷牙一樣,不會認為刷牙那兩分鐘所做的事很煩。」
截至 2020 年 7 月為止,Coursera 已經與全球超過 200 所頂尖大學或教育機構合作,開設超過 4,500 堂線上課程,擁有 20 門可被承認的線上學位,吸引超過 6,600 萬名學習者使用。根據《富比士》(Forbes)的報導,Coursera 在2019年4月獲得E輪募資 1.03 億美元,估計公司現值已超過 10 億美元。
●所有人的AI
Ng擔任Coursera共同執行長至2014年,而後便不再參與平台的日常營運,但仍是董事會成員。先後歷經Google、百度,Ng將深度學習轉換為企業內部的成長動力。現在,他的下一步,是打破高科技產業的藩籬,讓AI走入凡間。
當企業希望引入AI為產業加值時,Ng創辦的Landing.ai便提供了全端(end-to-end)的顧問服務,內容包含轉型輔導、解決方案導入、設備部署等,協助客戶更了解AI科技的價值、幫助客戶建立內部團隊,並敦促技術團隊取得商業上的成功。2018年,Ng更將Landing.ai創立以來與眾多CEO的討論心得、AI轉型常會遇到的問題與建議策略整理在公開資料《AI轉型指引》(AI Transformation Playbook)中。
除了Landing.ai,Ng也同時成立了另外兩家公司:deeplearning.ai與AI FUND。前者主要從事深度學習的教學推廣,至今陸續在Coursera上架了6個免費註冊的新課程,內容涵蓋了最淺顯的「給所有人的AI」到為專業人士設計的「自然語言處理專題」。AI FUND則與字面上的語意稍有不同,不做外部投資,而是透過提供技術、招聘、財務、法律等服務,來系統性地培植新創團隊。這個想法獲得了軟銀(SoftBank)、紅杉資本等投資人的肯定,募集到了17.5億美元的資金。
2019年造訪臺灣時,Ng感歎臺灣雖然沒有中美大國的先天優勢,但憑藉著出色的半導體產業與完善的基礎建設,無需汲於「創造」(to create)話題,而是善用既有資源並注重人才培育,「營造」(to curate)出一方利於AI研究發展的健全生態與豐饒土壤,在這股浪潮中站穩自己的腳步。
幾十年前,網際網路與軟體業的興起,創造無數商機與財富,卻僅有少數國家或區域(例如矽谷)因此受益;這一回,Ng深信,AI的成果應該與所有人共享。
參考資料
- About Us – Landing AI.
- Adams, S. (2019). Online Education Provider Coursera Is Now Worth More Than $1 Billion.
- Foote, K. (2017). A Brief History of Deep Learning – DATAVERSITY.
- Fridman, L. (2020). Andrew Ng: Deep Learning, Education, and Real-World AI | AI Podcast #73 with Lex Fridman[Video].
- Hernandez, D. (2013). The Man Behind the Google Brain: Andrew Ng and the Quest for the New AI.
- Kary Wong(民108年10月28日)。離開史丹福創辦Coursera AI 學者吳恩達為「使最多人受惠」。
- Kosner, A. (2013). Why Is Machine Learning (CS 229) The Most Popular Course At Stanford?.
- Ng, A. (2017). Opening a new chapter of my work in AI.
- Simonite, T. (2017). The Researcher Who Wants to Bring AI to Factories.
- Vara, V. (2018). Q&A: Andrew Ng, the Authority on A.I.
- 中國新聞網(民107年1月19日)。三位世界級科學家加盟百度研究院 推動中國AI加速創新。
- 北京新浪網(民108年5月17日)。百度之頹:2年,「沒了」17名重量級高管。
- 朱旭冬(民106年3月22日)。吳恩達離開百度,再次證明了百度不是「中國的Google」。
- 王星(民103年5月17日)。Andrew Ng加盟,百度得到了什麼?
- 百度(民107年11月13日)。百度研究院超豪華陣容再升級 迎来9位世界級科學家。
- 韓依民(民106年3月23日)。還原百度人工智能派系之爭:吳恩達出局,馬東敏鹿奇定勝負。
(本文為教育部「人工智慧技術及應用人才培育計畫」成果內容)