OpenAI肥皂劇幕後:理念、利益、管制前景

分享至

有在關心AI領域相關消息的人應該都知道「OpenAI」執行長與董事會的攻矛盾防之戰,相信不少人吃瓜吃的很開心,但…這可不是單純一家公司權力內鬥的八點檔連續劇,更深入剖析就會發現,它的背後其實是兩股理念勢力間的角逐。它不僅涉及AI發展的步調、金錢利益的往來,更影響著政策制定者對於AI管控的收放。在這雲譎波詭的AI領域戰場上,牽一髮而動全身,誰知道下一場風暴何時會來臨呢?

撰文|謝達文

 

在OpenAI執行長奧特曼 (Sam Altman) 被董事會開除之後,代理的執行長希爾 (Emmett Shear) 和董事會對於奧特曼被開除的理由三緘其口,不過卻特別在推特上強調,董事會之所以這麼做,原因無關雙方對AI發展安全性的歧見。

許多長期關注AI發展的觀察家都不相信這項辯解,一些臺灣的讀者可能馬上會聯想到的成語恐怕是「欲蓋彌彰」。何況,就算希爾的話屬實,他之所以需要特別強調安全性問題,意味著他也瞭解外界必然會這樣解讀。

畢竟,主導開除奧特曼的幾位董事會成員,在安全性問題上與奧特曼的立場長期不合,早就不是新聞。從這個觀點來說,董事會指控奧特曼破壞互信、不誠實、有所隱瞞,很有可能必須放在這個長期衝突的背景下理解。

奧特曼與董事會之間的差異,經常被稱為所謂「樂觀技術資本主義」(optimistic techno-capitalism) 和「長期論」(long-termism) 兩股理念之間的鬥爭,而在理念之爭背後,又有龐大的金錢力量為之加柴添火,終於引爆了這場肥皂劇 (Montgomery, 2023;Schreckinger, 2023)。

 

理念上的差異,意味著看見不同方向

簡白來說,「樂觀技術資本主義」樂觀相信科技解決問題的能力,認為無需在研發時刻意放慢腳步,等待管制或風險評估。相對地,長期論者則主張科技研發不是越快越好,研發過程中必須考慮對後代可能的損害、尤其是毀滅性的損害。

奧特曼一直以來都被視為第一個陣營的代表,即使他在美國、歐盟等國的聽證會上都表示歡迎不同政府擬訂管制方案,但整體而言,他並不認為科技研發者自己應該「慢下來」。

相反地,OpenAI董事會上有兩位成員屬於「長期論」此一陣營,而這兩位成員在奧特曼回歸之後也都被迫離開董事會。Helen Toner和Tasha McCauley一直以來都主張科技發展需要「慢下來」,必須對安全性有更好的掌握之後才能往下走。事實上,Toner最近和一些同僚發表了一篇文章,就批評生成式AI的龍頭們不該在尚未執行「細節性的安全測試」之前就貿然推出產品。雖然並未指名道姓,但批評的範圍明顯包含OpenAI (Waters and Thornhill, 2023)。

這兩個陣營的爭端不時會浮上檯面,比如Anthropic這家公司的創辦人們之所以離開OpenAI,公開的理由就是認為奧特曼不夠注意安全問題。同時,樂觀派的擁護者有些用詞相當尖銳,比如Meta(臉書母公司)的首席AI科學家Yann LeCun就形容擔心長期風險的論調都很「荒誕」(preposterous),而矽谷重要的投資人Marc Andreessen更為尖酸,用來形容長期論者的詞彙包含「邪教」、「瘋癲」、無異於各種警告末日將臨的「千禧年運動」。

 

經濟利益是引擎,是力量的來源

而這一切還不只是理念之爭──科技業、尤其是AI產業涉及非常龐大的利益,這樣的爭端背後當然有金錢的力量參與,並形塑了爭端的發展。

只要關注此次肥皂劇的讀者都一定會注意到,微軟在第一時間就表態願意雇用奧特曼和其他OpenAI的離職員工,這也給了奧特曼和員工們非常大的談判籌碼,有超過九成的員工宣示會與奧特曼同進退,終於逼迫董事會就範。

但其實,微軟一直以來都是OpenAI重要的投資人、是奧特曼長期的盟友。在經濟面上,微軟執行長Satya Nadella更曾公開承認兩間公司有「相互依存」的關係──OpenAI為微軟的產品提供技術,進而讓微軟的產品對消費者和投資人更具吸引力,讓華爾街上的投資人更願意將資金押在微軟上;而微軟除了提供資金,也讓OpenAI能穩定使用微軟的雲端運算,而雲端運算是個稀缺又寡占的資源 (Waters, 2023)。

這樣的關係不僅相互依存,而且恰好是兩家公司之間「最好的距離」。「投資而不擁有」的關係,使得微軟不用直接負擔OpenAI的成本與風險;何況,OpenAI的公司文化也與微軟很不相同,整併之後未必能夠相容;更重要的是,一旦整併,微軟馬上就會受到反壟斷相關的調查,法律風險相當之高。

於是,雙方延續這樣互利共生的關係。這樣的關係看似完美,但有一項重要的影響:奧特曼自己本來就很想當先驅者,並沒有想要慢下來,而微軟的投資更讓他、讓公司有繼續往前衝的動機。畢竟,這是一個競爭激烈的市場,OpenAI並沒有信心可以永遠保持領先地位,而當OpenAI不只是帳面上看來的非營利研究機構,還必須向投資人「負責」時,就更不可以停下腳步,更沒有思考安全性的餘裕。事實上,這正是董事會成員Toner批評的重點:OpenAI和Google等公司為了競爭,盲目向前衝,已經數次規避「他們自己所設定」的安全檢查和倫理審查程序。

社會科學二十世紀的重要學者韋伯 (Max Weber) 曾經比喻,利益是讓人們能向前衝的引擎,而文化、理念則像是「轉轍器」,決定軌道的走向,引導人們往特定的方向衝去。在這個案例中,這樣的動態相當明顯:奧特曼的世界觀中,科技本來就是應該勇往直前,他本來就想往更高更遠的地方儘快衝去,而在這個時候,微軟的金錢投注更讓奧特曼能夠向前衝,讓他和對他忠誠的員工可以在對戰中取得上風,贏過在名義上應該掌握實權的董事會。

 

對政策制定者而言,這是一個警告

但對於在華府和世界各地的政策制訂者而言,這場肥皂劇並非鬧劇,而是驚悚劇。畢竟,這意味著連名義上存在的董事會、公司治理程序與內部規則都未必能降低治理的不穩定性,AI公司的經營、技術的走向幾乎完全掌握在奧特曼、微軟執行長等少數幾個個人手上,是依照他們的理念和利益運轉,這本身就足以讓政策制定者非常不安 (Bordelon, 2023)。

更何況,獲勝的那方還是樂觀論者。事實上,就算是矽谷的長期論者們,想法也與多數管制者有些差異。比起長期論者,許多管制者更擔心中短期內就會出現、甚至已經出現的問題──監控、假訊息、內建歧視、國家安全與市場秩序等等。但樂觀論者的想法,普遍來說當然是距離政策制定者更為遙遠,部分比奧特曼更極端的樂觀論者更是全力抵抗國家的管制。

從這個角度來說,奧特曼和微軟贏了這場戰役,卻未必能贏下整場戰鬥。對歐洲國家而言,這場肥皂劇只會強化他們「必須發展本土AI」的動機,避免全面受制於奧特曼等少數個人 (Chassany, 2023)。至於華府、布魯塞爾、倫敦等地的政策制訂者,更可能會選擇要加速、加嚴政府對AI的管制,更不敢仰賴產業的自我規制──畢竟,誰知道下一場肥皂劇會在何時何地上映呢?

 


參考文獻

  1. Bordelon, Brendan, 2023, “With Altman back at OpenAI, chaos leaves D.C. asking: Now what?”, Politico.
  2. Chassany, Anne-Sylvaine, 2023, “The lessons of the OpenAI soap opera for Europe.”, Financial Times.
  3. Montgomery, Blake, 2023, “’Huge egos are in play’: behind the firing and rehiring of OpenAI’s Sam Altman.”, The Guardian.
  4. Screckinger, Ben, 2023, “Washington watches as West Coast nerds fight for future of AI.”, Politico.
  5. Waters, Richard, 2023, “OpenAI turmoil exposes threat to Microsoft’s investment.”, Financial Times.
  6. Waters, Richard and John Thornhill, 2023, “OpenAI and the rift at the heart of Silicon Valley.”, Financial Times.
(Visited 79 times, 1 visits today)

分享至
views