OpenAI肥皂劇幕後:理念、利益、管制前景
有在關心AI領域相關消息的人應該都知道「OpenAI」執行長與董事會的攻矛盾防之戰,相信不少人吃瓜吃的很開心,但…這可不是單純一家公司權力內鬥的八點檔連續劇,更深入剖析就會發現,它的背後其實是兩股理念勢力間的角逐。它不僅涉及AI發展的步調、金錢利益的往來,更影響著政策制定者對於AI管控的收放。在這雲譎波詭的AI領域戰場上,牽一髮而動全身,誰知道下一場風暴何時會來臨呢?
撰文|謝達文
在OpenAI執行長奧特曼 (Sam Altman) 被董事會開除之後,代理的執行長希爾 (Emmett Shear) 和董事會對於奧特曼被開除的理由三緘其口,不過卻特別在推特上強調,董事會之所以這麼做,原因無關雙方對AI發展安全性的歧見。
許多長期關注AI發展的觀察家都不相信這項辯解,一些臺灣的讀者可能馬上會聯想到的成語恐怕是「欲蓋彌彰」。何況,就算希爾的話屬實,他之所以需要特別強調安全性問題,意味著他也瞭解外界必然會這樣解讀。
畢竟,主導開除奧特曼的幾位董事會成員,在安全性問題上與奧特曼的立場長期不合,早就不是新聞。從這個觀點來說,董事會指控奧特曼破壞互信、不誠實、有所隱瞞,很有可能必須放在這個長期衝突的背景下理解。
奧特曼與董事會之間的差異,經常被稱為所謂「樂觀技術資本主義」(optimistic techno-capitalism) 和「長期論」(long-termism) 兩股理念之間的鬥爭,而在理念之爭背後,又有龐大的金錢力量為之加柴添火,終於引爆了這場肥皂劇 (Montgomery, 2023;Schreckinger, 2023)。
理念上的差異,意味著看見不同方向
簡白來說,「樂觀技術資本主義」樂觀相信科技解決問題的能力,認為無需在研發時刻意放慢腳步,等待管制或風險評估。相對地,長期論者則主張科技研發不是越快越好,研發過程中必須考慮對後代可能的損害、尤其是毀滅性的損害。
奧特曼一直以來都被視為第一個陣營的代表,即使他在美國、歐盟等國的聽證會上都表示歡迎不同政府擬訂管制方案,但整體而言,他並不認為科技研發者自己應該「慢下來」。
相反地,OpenAI董事會上有兩位成員屬於「長期論」此一陣營,而這兩位成員在奧特曼回歸之後也都被迫離開董事會。Helen Toner和Tasha McCauley一直以來都主張科技發展需要「慢下來」,必須對安全性有更好的掌握之後才能往下走。事實上,Toner最近和一些同僚發表了一篇文章,就批評生成式AI的龍頭們不該在尚未執行「細節性的安全測試」之前就貿然推出產品。雖然並未指名道姓,但批評的範圍明顯包含OpenAI (Waters and Thornhill, 2023)。
這兩個陣營的爭端不時會浮上檯面,比如Anthropic這家公司的創辦人們之所以離開OpenAI,公開的理由就是認為奧特曼不夠注意安全問題。同時,樂觀派的擁護者有些用詞相當尖銳,比如Meta(臉書母公司)的首席AI科學家Yann LeCun就形容擔心長期風險的論調都很「荒誕」(preposterous),而矽谷重要的投資人Marc Andreessen更為尖酸,用來形容長期論者的詞彙包含「邪教」、「瘋癲」、無異於各種警告末日將臨的「千禧年運動」。
經濟利益是引擎,是力量的來源
而這一切還不只是理念之爭──科技業、尤其是AI產業涉及非常龐大的利益,這樣的爭端背後當然有金錢的力量參與,並形塑了爭端的發展。
只要關注此次肥皂劇的讀者都一定會注意到,微軟在第一時間就表態願意雇用奧特曼和其他OpenAI的離職員工,這也給了奧特曼和員工們非常大的談判籌碼,有超過九成的員工宣示會與奧特曼同進退,終於逼迫董事會就範。
但其實,微軟一直以來都是OpenAI重要的投資人、是奧特曼長期的盟友。在經濟面上,微軟執行長Satya Nadella更曾公開承認兩間公司有「相互依存」的關係──OpenAI為微軟的產品提供技術,進而讓微軟的產品對消費者和投資人更具吸引力,讓華爾街上的投資人更願意將資金押在微軟上;而微軟除了提供資金,也讓OpenAI能穩定使用微軟的雲端運算,而雲端運算是個稀缺又寡占的資源 (Waters, 2023)。
這樣的關係不僅相互依存,而且恰好是兩家公司之間「最好的距離」。「投資而不擁有」的關係,使得微軟不用直接負擔OpenAI的成本與風險;何況,OpenAI的公司文化也與微軟很不相同,整併之後未必能夠相容;更重要的是,一旦整併,微軟馬上就會受到反壟斷相關的調查,法律風險相當之高。
於是,雙方延續這樣互利共生的關係。這樣的關係看似完美,但有一項重要的影響:奧特曼自己本來就很想當先驅者,並沒有想要慢下來,而微軟的投資更讓他、讓公司有繼續往前衝的動機。畢竟,這是一個競爭激烈的市場,OpenAI並沒有信心可以永遠保持領先地位,而當OpenAI不只是帳面上看來的非營利研究機構,還必須向投資人「負責」時,就更不可以停下腳步,更沒有思考安全性的餘裕。事實上,這正是董事會成員Toner批評的重點:OpenAI和Google等公司為了競爭,盲目向前衝,已經數次規避「他們自己所設定」的安全檢查和倫理審查程序。
社會科學二十世紀的重要學者韋伯 (Max Weber) 曾經比喻,利益是讓人們能向前衝的引擎,而文化、理念則像是「轉轍器」,決定軌道的走向,引導人們往特定的方向衝去。在這個案例中,這樣的動態相當明顯:奧特曼的世界觀中,科技本來就是應該勇往直前,他本來就想往更高更遠的地方儘快衝去,而在這個時候,微軟的金錢投注更讓奧特曼能夠向前衝,讓他和對他忠誠的員工可以在對戰中取得上風,贏過在名義上應該掌握實權的董事會。
對政策制定者而言,這是一個警告
但對於在華府和世界各地的政策制訂者而言,這場肥皂劇並非鬧劇,而是驚悚劇。畢竟,這意味著連名義上存在的董事會、公司治理程序與內部規則都未必能降低治理的不穩定性,AI公司的經營、技術的走向幾乎完全掌握在奧特曼、微軟執行長等少數幾個個人手上,是依照他們的理念和利益運轉,這本身就足以讓政策制定者非常不安 (Bordelon, 2023)。
更何況,獲勝的那方還是樂觀論者。事實上,就算是矽谷的長期論者們,想法也與多數管制者有些差異。比起長期論者,許多管制者更擔心中短期內就會出現、甚至已經出現的問題──監控、假訊息、內建歧視、國家安全與市場秩序等等。但樂觀論者的想法,普遍來說當然是距離政策制定者更為遙遠,部分比奧特曼更極端的樂觀論者更是全力抵抗國家的管制。
從這個角度來說,奧特曼和微軟贏了這場戰役,卻未必能贏下整場戰鬥。對歐洲國家而言,這場肥皂劇只會強化他們「必須發展本土AI」的動機,避免全面受制於奧特曼等少數個人 (Chassany, 2023)。至於華府、布魯塞爾、倫敦等地的政策制訂者,更可能會選擇要加速、加嚴政府對AI的管制,更不敢仰賴產業的自我規制──畢竟,誰知道下一場肥皂劇會在何時何地上映呢?
參考文獻
- Bordelon, Brendan, 2023, “With Altman back at OpenAI, chaos leaves D.C. asking: Now what?”, Politico.
- Chassany, Anne-Sylvaine, 2023, “The lessons of the OpenAI soap opera for Europe.”, Financial Times.
- Montgomery, Blake, 2023, “’Huge egos are in play’: behind the firing and rehiring of OpenAI’s Sam Altman.”, The Guardian.
- Screckinger, Ben, 2023, “Washington watches as West Coast nerds fight for future of AI.”, Politico.
- Waters, Richard, 2023, “OpenAI turmoil exposes threat to Microsoft’s investment.”, Financial Times.
- Waters, Richard and John Thornhill, 2023, “OpenAI and the rift at the heart of Silicon Valley.”, Financial Times.