艾薩克.艾西莫夫 Isaac Asimov(1920-1992)

著作等身的多產作家,除了如《基地》系列、《機器人》系列等深植人心的科幻作品外,同時也是一位科普作家,也曾在大學中任教。「機器人學三大定律」最初出現在Asimov 1942年的短篇小說《轉圈圈》(Runaround)中,用以規範通用AI的行為,也是機器倫理的濫觴。三定律看似周全,實際上存在內在矛盾與例外,因而常見於其他科幻作品,作為故事發展的開端或主軸。然而一套倫理學竟然在被規範者出現之前就被廣泛討論,反映了大眾對於「人造智慧體」的猜忌與不安。

撰文/陳品妤|編輯/高敬堂
審訂/葉言都(東吳大學歷史系兼任助理教授、科幻小說作家)

●非凡的科學天才

Asimov是俄裔猶太人,三歲時與家人移民到美國紐約定居。小時候,他在父親糖果店的報攤上找到一本《驚奇科幻》雜誌(Astounding Science Fiction,現已改名為Analog Science Fiction and Fact),閱讀之下,科幻世界的廣袤星空立刻深深吸引了他,開啟了Asimov對科學的興趣。

Asimov成績出色,年僅十九便從哥倫比亞大學化學系畢業,而後繼續攻讀生物化學博士。沒想到不久,二次世界大戰緊接著爆發,中斷了Asimov的學業。二戰期間,Asimov發揮所長,在大氣實驗室擔任民間研究員。戰後,Asimov繼續在陸軍服滿最後的九個月役期,並在28歲那年回歸校園,取得博士學位後,在波士頓大學醫學院擔任講師。

身為舉世公認的天才,Asimov對此稱不上謙虛,卻也從不驕矜自大。一方面,他在名片上幽默地自稱是人類的「自然資源」;另一方面,他對炫耀智識的人毫不客氣。1962年,Asimov高分通過「門薩國際」(Mensa International)──一個僅接受高智商會員的國際同好會──的入會測驗。根據Asimov自述,那並不完全是個很好的經驗:有些會員過分誇耀智商、不斷與他人爭吵。正如Asimov所說:「即使科學會引起問題,但無知也不能解決問題。」比起這些自私的聰明人,他顯然更理解知識的可貴。

●科普之王

Asimov平均每年出版或主編十本書。在他全職寫作的期間,甚至高達每年十三本。曾有記者問過他:「倘若醫生宣告你只剩六個月能活,你會怎麼做?」,Asimov瀟灑回應:「打字打得更快一點!」(“Type faster!”)。

如此多產的作家,作品橫跨杜威十進位圖書分類法,從自然科學到人文藝術,可謂真正的上知天文下知地理;唯獨「哲學」是Asimov唯一不曾出版的分類。但Asimov的文字條理分明,字裡行間邏輯嚴謹,若真出版哲學圖書,不過是錦上添花而已。除了學識淵博,Asimov最為人津津樂道的,還有過人的幽默感。他出版了數本打油詩及笑話集,以及趣味橫生的科普作品。

1957年,蘇聯發射世上第一枚人造衛星,其技術震驚整個世界。造成美國教育界的危機感,認為必須痛定思痛,改革科學教育,培養更多科技人才。在此之前,Asimov的創作以科幻小說為主,這時他有感於科學普及的重要,改為寫作科普專書。他的科普作品也極為成功,暢銷書《智者的科學指南》(The Intelligent Man’s Guide to Science)出版以後,Asimov決定辭去教職,全心投入科普工作。而這部作品經過多次編修,成為後來的《艾西莫夫科學新指南》(Asimov’s New Guide to Science)。

1940年代,美國科幻小說的三巨頭之一Robert Anson Heinlein曾說:「如果Isaac不知道答案,就不要查詢大英百科全書,因為它也不知道答案。」可見Asimov科普大師的名譽當之無愧。

●科幻小說大師

在鑽研學術之餘,Asimov沒有停止探索世界的驚奇,盡情嘗試有趣的事物。當然,也包括科幻小說寫作。

1939年,Asimov陸續向《驚奇科幻》投稿多篇科幻小說。當時的編輯John W. Campbell Jr.成為他的伯樂,引導他在1941年寫出短篇《夜幕低垂》(Nightfall),躋身一線科幻小說家。之後,Asimov出版多部大受歡迎的短篇,以及經典的長篇系列。其中,「機器人系列」與「基地系列」堪稱Asimov科幻小說的兩大代表系列作品。

「機器人系列」的主角是人類刑警Elijah Baley與他的機器人夥伴R. Daneel Olivaw。面對看似違反「機器人學三大法則」的不可能犯罪,兩人抽絲剝繭、攜手揭開案件真相,頗有古典推理小說色彩。他們辦的案子從熟悉的地球到太空殖民地,讀者能一窺Asimov設想的未來社會,並與這對搭檔一起思考:人類的未來該何去何從?人類與機器人如何攜手共存?在系列的最後一集,Baley與Daneel之間深厚的「跨種族」情誼,或許是Asimov對這一連串難題的解答。

「基地系列」的格局更大,是科幻類型的「太空歌劇」(Space Opera)。故事敘述數學家Hari Seldon預見銀河帝國即將滅亡,為縮短帝國崩潰的動盪期,打造保存文明的基地,使人類能早日邁向和平。銀河帝國的命運取材自羅馬帝國的興衰史,也是Asimov對人類歷史的回應:無論如何,唯有以不停求變,來回應瞬息萬變的環境,才是人類的永續生存之道。

Asimov在科幻小說的成就斐然,多次獲得科幻界的最高榮譽──雨果獎(Hugo Award)。而他在小說中創造的多個字詞,如前述提及的「機器人學」(Robotics),還有「正子」(positronic)、「心理史學」(Psychohistory)等,更被《牛津英語辭典》收錄;其中,用於預測人類命運的「心理史學」,甚至成為部分社會學家的理論參照。

身為一位科幻小說家,除了作品以外,Asimov最為人津津樂道的,是與另一位科幻巨匠──同時也是位著名的科學作家(science writer)、電影《2001太空漫遊》(2001: A Space Odyssey)原著小說的作者──Arthur Charles Clarke的相處模式。

兩人雖是好友,卻多次在各種場合挖苦對方。例如Clarke偶然得知在一場不幸的航空事故中,其中一位罹難乘客正好隨身帶著一本自己的著作。他將這則新聞轉給Asimov,並補充:如果那名乘客當時帶的是Asimov的書,或許就能安詳地死去了(無聊到睡著)!Asimov也不甘示弱地回擊,告訴Clarke:這場事故對於那名乘客而言至少是種解脫(不用再看Clarke的書了)。但他們的修養,徹底打破「文人相輕」的迷思。一次偶然的機會,兩位作家共乘一輛計程車,行經紐約市公園大道時,達成了著名的《Asimov-Clarke公園大道協議》(The Asimov-Clarke Treaty of Park Avenue,或稱《Clarke-Asimov協議》)才平息了這場瑜亮之爭:往後當被問到誰才是最優秀的科幻作家時,Asimov得回答是Clarke;同樣地,Clarke也將堅持Asimov才是最優秀的科學作家。Clarke更在自己的著作《第三行星報告》(Report on Planet Three)中寫道:「根據《Clarke-Asimov協議》,第二名的科學作家將這本書獻給第二名的科幻作家」,足見兩位大師惺惺相惜。

●跨世紀的機器人預言

Asimov於科幻小說中生動描繪了人類與機器人共存的未來,並首先使用「機器人學」(Robotics)這個詞彙,至今仍深刻影響著科技的發展。機器人學之父Joseph F. Engelberger就曾表示,他之所以投入機器人學,正是因為讀了學長Asimov的機器人故事。2010年3月9日,美國眾議院為了表彰Asimov的貢獻,將每年四月的第二個星期指定為「全國機器人週」。

雖然科學家自科幻小說汲取靈感早已不是新鮮事,像是IBM的第一台超級電腦,即是以Douglas Adams的小說《銀河便車指南》(The Hitchhiker’s Guide to the Galaxy)中的超級電腦「深思」(Deep Thought)命名,但是Asimov的科幻小說不僅為機器人學家提供了靈感,更塑造了AI在大眾心目中的印象。

就實用的角度來看,Asimov在小說中提出的人形機器人設計相當實際:一、家庭機器人以「女性」的形象出場,減少機器人給人類的侵略感。二、區隔人類與機器人,以免過於擬真的機器人被當作人類。三、制定機器人應當遵守的原則,防止機器人傷害人類。在現代機器人設計中,我們已經可以看見這些原則的實踐。

除此之外,Asimov在與另一位作家Robert Silverberg合著的《正子人》(The Positronic Man)中,也以擁有自我意識的機器人Andrew為主角,結合機器人學、心理學、社會科學等視角,探討人類與AI之間的互動與情感關係。這部擴寫自Asimov另一部作品《雙百人》(Bicentennial Man)的長篇小說,先後被改編為熱門的同名電影與風靡世界的Play Station 4遊戲《底特律:變人》(Detroit: Become Human)。可見Asimov的科幻小說不僅開啟了人們對機器人的想像與討論,也深深影響了通俗文化。驚人的是,這些深具啟發性的作品,竟有泰半是上個世紀40到50年代的創作。

1964年,Asimov在《紐約時報》撰文,預言2014年的世界。而今回首,其中許多想像竟都與現實不謀而合:

  • 機器人既不會普及也不會發展良好,但是它們將會存在。

正確!機器人尚未普及,依舊處於開發狀態。

  • 人類將致力於設計擁有「機器人大腦」的車輛。這些車輛可以設置特定的目的地,在前進時不受駕駛緩慢的反應干擾。

正確!自動駕駛車輛是目前正在研發中的熱門產品,前途一片光明。

  • 精巧的機械裝置將把人類從瑣碎的工作中解放出來。廚房設備被設計成自動裝置:燒開水並煮成咖啡、烤麵包、煮或炒蛋、烤培根等。只要前一天晚上預訂,早餐就會在第二天的指定時間準備好。

正確!雖非主力研究項目,但已有相似產品付諸實際運用,例如日本豪斯登堡樂園的奇妙餐廳(変なレストラン)。

  • 在公元2014年的世界,幾乎沒有日常工作是機器無法做得比人纇更好的。因此,人類在工作上的角色將大幅轉變為機械運作的看管者。學校的方針因此改變。高中生將被教導電腦技術的基礎知識,熟練掌握二進制算數,並接受應用程式語言的完善訓練。

部分正確。自動化的理念正是如此,講究智慧化與客製化服務的第四次工業革命也是正在進行式,只是速度似乎沒有Asimov設想中來得快。在基礎教育方面,雖與全面普及仍有一段距離,但將編程等電腦相關技能向下扎根,是各國政府共同努力的方向。

  • 通訊技術將發展出視聽功能。你將在聽到聲音的同時看見通話對象。而螢幕不僅可以用來查看通話對象,還可以用來研讀文件、相片,跟閱讀書本的文字段落。同步衛星將在太空中徘徊,使你能打電話到地球上的任何地點,包括南極洲的氣象站。

正確!視訊電話已實現多年,並在當下人手一支智慧型手機的社會中廣泛運用,儼然成為當代通訊不可或缺的一部分。

Asimov半世紀前的預言,竟與事實相去不遠。誰說他在科幻小說中所描繪的未來,僅只是天馬行空呢?

●機器人學三大定律

1942年,Asimov在短篇小說《轉圈圈》(Runaround)裡,首次提出著名的「機器人學三大定律」:

一、機器人不得傷害人類,或因不作為而使人類受到傷害;
A robot may not injure a human being or, through inaction, allow a human being to come to harm;

二、除非違背第一定律,機器人必須服從人類的命令;
A robot must obey the orders given it by human beings except where such orders would conflict with the First Law;

三、在不違背第一及第二定律的情況下,機器人必須保護自己。
A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.

若機器人不遵守規則,就會導致不可逆的傷害,以此作為機器人失去控制時的保險機制。在其他科幻作品中,也經常援引這三條定律,作為給機器人或AI系統的限制。

科學家創造強大的AI,是為了增進社會福祉。矛盾的是,許多科學家卻警告:倘若有一天功能強大的通用人工智慧(Artificial General Intelligence,AGI)成真,它將意識到人類之於宇宙只是滄海一粟,進而消滅或者奴役人類。Tesla執行長Elon Musk曾經表示,AGI可能使人類淪為機器的寵物,而聯合DeepMind的創辦人Mustafa Suleyman及數百名專家齊聲反對「致命自主武器系統」(Lethal Autonomous Weapons,LAWS)的開發。

在這樣的背景下,機器人學三大定律也受到前所未有的重視與討論。例如2016年,微軟CEO Satya Nadella曾在《未來的夥伴關係》(The Partnership of the Future)一文中提及:雖然層層遞進的三定律深具啟發,為AI倫理學提供了很好的基礎,但仍未提供一套研發團隊在開發AI模型或機器人時應該遵守的價值觀或設計原則。實際參與AI研究的知名科學家Ben Goertzel也透露:機器人學三大定律的邏輯缺陷太多,在小說中便存在許多漏洞,即使是機器倫理學界也不認為它是一個令人滿意的基礎。話雖如此,我們依然可以從三定律的失敗中學習,體認到任何試圖以具體規則為依據的道德規範注定會失敗。

然而這些批評似乎都忽略一個事實:Aismov不是以「科學家」,而是「科幻小說家」的身分寫下三大定律。在「機器人系列」中,正是因為三定律存在漏洞,才會帶出兩位主人公後續一系列的精采冒險。另一方面,不是所有學者都認為AI真的會反噬人類。比如Facebook 創辦人Mark Zuckerberg對此便抱持著樂觀的態度,認為技術的好壞取決於使用者;只要立意良善,AI將在不久的將來持續造福人類。

科學與反智主義

Asimov終其一生透過教育和著書,將知識傳播到更遠的地方。某種程度上,可以視為對於1980年代「反智主義」(anti-intellectualism)盛行的一種反制。當時的美國政治人物為博取大眾選票無所不用其極,Asimov對此撰文感嘆:美國存在一種「名為無知的邪教」(a cult of ignorance),人們誤以為民主意味著「我的無知就跟你的知識一樣好」。在那個年代,Asimov更是少數公開支持同性戀、女性權益的公眾人物。

1992年,Asimov撒手人寰,然而當時的媒體對於他的死因卻沒有太多的著墨。直到多年後,Asimov的第二任妻子代為出版他的自傳時,才透漏:Asimov是因手術輸血而感染愛滋病毒(HIV),後續引發心腎衰竭而逝世。那是個HIV知識尚未普及,對於愛滋病仍充滿歧視的年代。即使Asimov處之泰然,並願意公諸於世,但在醫師的建議與輿論偏見可能殃及家人的考慮下作罷。這段令人五味雜陳的插曲,正突顯了Asimov生前所堅持──科學普及的重要性。

 

參考資料

  1. Biography.com Editors, “Isaac Asimov Biography“, The Biography.com website, 2014.
  2. Gregersen, E. , “Isaac Asimov | Biography & Facts“, Encyclopedia Britannica, 2020.
  3. Dvorsky, G., “Why Asimov’s Three Laws Of Robotics Can’t Protect Us“, Gizmodo, 2014.
  4. House of Representatives, U. S., “Text – H.Res.1055 – 111th Congress (2009-2010): Supporting the designation of National Robotics Week as an annual event.“, gov, 2010.
  5. Garmon, J., “Geek Trivia: Action-pact science fiction“, TechRepublic, 2006.
  6. Open Culture Editors, “Isaac Asimov’s 1964 Predictions About What the World Will Look 50 Years Later“, Open Culture, 2013.
  7. Nadella, S, “Microsoft’s CEO Explores How Humans and A.I. Can Solve Society’s Challenges—Together“, Slate Magazine, 2016.
  8. Salge, C., “Asimov’s Laws Won’t Stop Robots from Harming Humans, So We’ve Developed a Better Solution“, Scientific American, 2020.
  9. 徐子軒(民107年12月17日)。AI武器未來戰(上):「殺手機器人」的禁令謬誤?
  10. 葉李華(無日期)。艾西莫夫傳奇

(本文為教育部「人工智慧技術及應用人才培育計畫」成果內容)

(Visited 1 times, 1 visits today)
views