艾薩克．艾西莫夫 Isaac Asimov（1920-1992）
著作等身的多產作家，除了如《基地》系列、《機器人》系列等深植人心的科幻作品外，同時也是一位科普作家，也曾在大學中任教。「機器人學三大定律」最初出現在Asimov 1942年的短篇小說《轉圈圈》（Runaround）中，用以規範通用AI的行為，也是機器倫理的濫觴。三定律看似周全，實際上存在內在矛盾與例外，因而常見於其他科幻作品，作為故事發展的開端或主軸。然而一套倫理學竟然在被規範者出現之前就被廣泛討論，反映了大眾對於「人造智慧體」的猜忌與不安。
撰文／陳品妤｜編輯／高敬堂
審訂／葉言都（東吳大學歷史系兼任助理教授、科幻小說作家）
●非凡的科學天才
Asimov是俄裔猶太人，三歲時與家人移民到美國紐約定居。小時候，他在父親糖果店的報攤上找到一本《驚奇科幻》雜誌（Astounding Science Fiction，現已改名為Analog Science Fiction and Fact），閱讀之下，科幻世界的廣袤星空立刻深深吸引了他，開啟了Asimov對科學的興趣。
Asimov成績出色，年僅十九便從哥倫比亞大學化學系畢業，而後繼續攻讀生物化學博士。沒想到不久，二次世界大戰緊接著爆發，中斷了Asimov的學業。二戰期間，Asimov發揮所長，在大氣實驗室擔任民間研究員。戰後，Asimov繼續在陸軍服滿最後的九個月役期，並在28歲那年回歸校園，取得博士學位後，在波士頓大學醫學院擔任講師。
身為舉世公認的天才，Asimov對此稱不上謙虛，卻也從不驕矜自大。一方面，他在名片上幽默地自稱是人類的「自然資源」；另一方面，他對炫耀智識的人毫不客氣。1962年，Asimov高分通過「門薩國際」（Mensa International）──一個僅接受高智商會員的國際同好會──的入會測驗。根據Asimov自述，那並不完全是個很好的經驗：有些會員過分誇耀智商、不斷與他人爭吵。正如Asimov所說：「即使科學會引起問題，但無知也不能解決問題。」比起這些自私的聰明人，他顯然更理解知識的可貴。
●科普之王
Asimov平均每年出版或主編十本書。在他全職寫作的期間，甚至高達每年十三本。曾有記者問過他：「倘若醫生宣告你只剩六個月能活，你會怎麼做？」，Asimov瀟灑回應：「打字打得更快一點！」（“Type faster!”）。
如此多產的作家，作品橫跨杜威十進位圖書分類法，從自然科學到人文藝術，可謂真正的上知天文下知地理；唯獨「哲學」是Asimov唯一不曾出版的分類。但Asimov的文字條理分明，字裡行間邏輯嚴謹，若真出版哲學圖書，不過是錦上添花而已。除了學識淵博，Asimov最為人津津樂道的，還有過人的幽默感。他出版了數本打油詩及笑話集，以及趣味橫生的科普作品。
1957年，蘇聯發射世上第一枚人造衛星，其技術震驚整個世界。造成美國教育界的危機感，認為必須痛定思痛，改革科學教育，培養更多科技人才。在此之前，Asimov的創作以科幻小說為主，這時他有感於科學普及的重要，改為寫作科普專書。他的科普作品也極為成功，暢銷書《智者的科學指南》（The Intelligent Man’s Guide to Science）出版以後，Asimov決定辭去教職，全心投入科普工作。而這部作品經過多次編修，成為後來的《艾西莫夫科學新指南》（Asimov’s New Guide to Science）。
1940年代，美國科幻小說的三巨頭之一Robert Anson Heinlein曾說：「如果Isaac不知道答案，就不要查詢大英百科全書，因為它也不知道答案。」可見Asimov科普大師的名譽當之無愧。
●科幻小說大師
在鑽研學術之餘，Asimov沒有停止探索世界的驚奇，盡情嘗試有趣的事物。當然，也包括科幻小說寫作。
1939年，Asimov陸續向《驚奇科幻》投稿多篇科幻小說。當時的編輯John W. Campbell Jr.成為他的伯樂，引導他在1941年寫出短篇《夜幕低垂》（Nightfall），躋身一線科幻小說家。之後，Asimov出版多部大受歡迎的短篇，以及經典的長篇系列。其中，「機器人系列」與「基地系列」堪稱Asimov科幻小說的兩大代表系列作品。
「機器人系列」的主角是人類刑警Elijah Baley與他的機器人夥伴R. Daneel Olivaw。面對看似違反「機器人學三大法則」的不可能犯罪，兩人抽絲剝繭、攜手揭開案件真相，頗有古典推理小說色彩。他們辦的案子從熟悉的地球到太空殖民地，讀者能一窺Asimov設想的未來社會，並與這對搭檔一起思考：人類的未來該何去何從？人類與機器人如何攜手共存？在系列的最後一集，Baley與Daneel之間深厚的「跨種族」情誼，或許是Asimov對這一連串難題的解答。
「基地系列」的格局更大，是科幻類型的「太空歌劇」（Space Opera）。故事敘述數學家Hari Seldon預見銀河帝國即將滅亡，為縮短帝國崩潰的動盪期，打造保存文明的基地，使人類能早日邁向和平。銀河帝國的命運取材自羅馬帝國的興衰史，也是Asimov對人類歷史的回應：無論如何，唯有以不停求變，來回應瞬息萬變的環境，才是人類的永續生存之道。
Asimov在科幻小說的成就斐然，多次獲得科幻界的最高榮譽──雨果獎（Hugo Award）。而他在小說中創造的多個字詞，如前述提及的「機器人學」（Robotics），還有「正子」（positronic）、「心理史學」（Psychohistory）等，更被《牛津英語辭典》收錄；其中，用於預測人類命運的「心理史學」，甚至成為部分社會學家的理論參照。
身為一位科幻小說家，除了作品以外，Asimov最為人津津樂道的，是與另一位科幻巨匠──同時也是位著名的科學作家（science writer）、電影《2001太空漫遊》（2001: A Space Odyssey）原著小說的作者──Arthur Charles Clarke的相處模式。
兩人雖是好友，卻多次在各種場合挖苦對方。例如Clarke偶然得知在一場不幸的航空事故中，其中一位罹難乘客正好隨身帶著一本自己的著作。他將這則新聞轉給Asimov，並補充：如果那名乘客當時帶的是Asimov的書，或許就能安詳地死去了（無聊到睡著）！Asimov也不甘示弱地回擊，告訴Clarke：這場事故對於那名乘客而言至少是種解脫（不用再看Clarke的書了）。但他們的修養，徹底打破「文人相輕」的迷思。一次偶然的機會，兩位作家共乘一輛計程車，行經紐約市公園大道時，達成了著名的《Asimov-Clarke公園大道協議》（The Asimov-Clarke Treaty of Park Avenue，或稱《Clarke-Asimov協議》）才平息了這場瑜亮之爭：往後當被問到誰才是最優秀的科幻作家時，Asimov得回答是Clarke；同樣地，Clarke也將堅持Asimov才是最優秀的科學作家。Clarke更在自己的著作《第三行星報告》（Report on Planet Three）中寫道：「根據《Clarke-Asimov協議》，第二名的科學作家將這本書獻給第二名的科幻作家」，足見兩位大師惺惺相惜。
●跨世紀的機器人預言
Asimov於科幻小說中生動描繪了人類與機器人共存的未來，並首先使用「機器人學」（Robotics）這個詞彙，至今仍深刻影響著科技的發展。機器人學之父Joseph F. Engelberger就曾表示，他之所以投入機器人學，正是因為讀了學長Asimov的機器人故事。2010年3月9日，美國眾議院為了表彰Asimov的貢獻，將每年四月的第二個星期指定為「全國機器人週」。
雖然科學家自科幻小說汲取靈感早已不是新鮮事，像是IBM的第一台超級電腦，即是以Douglas Adams的小說《銀河便車指南》（The Hitchhiker’s Guide to the Galaxy）中的超級電腦「深思」（Deep Thought）命名，但是Asimov的科幻小說不僅為機器人學家提供了靈感，更塑造了AI在大眾心目中的印象。
就實用的角度來看，Asimov在小說中提出的人形機器人設計相當實際：一、家庭機器人以「女性」的形象出場，減少機器人給人類的侵略感。二、區隔人類與機器人，以免過於擬真的機器人被當作人類。三、制定機器人應當遵守的原則，防止機器人傷害人類。在現代機器人設計中，我們已經可以看見這些原則的實踐。
除此之外，Asimov在與另一位作家Robert Silverberg合著的《正子人》（The Positronic Man）中，也以擁有自我意識的機器人Andrew為主角，結合機器人學、心理學、社會科學等視角，探討人類與AI之間的互動與情感關係。這部擴寫自Asimov另一部作品《雙百人》（Bicentennial Man）的長篇小說，先後被改編為熱門的同名電影與風靡世界的Play Station 4遊戲《底特律：變人》（Detroit: Become Human）。可見Asimov的科幻小說不僅開啟了人們對機器人的想像與討論，也深深影響了通俗文化。驚人的是，這些深具啟發性的作品，竟有泰半是上個世紀40到50年代的創作。
1964年，Asimov在《紐約時報》撰文，預言2014年的世界。而今回首，其中許多想像竟都與現實不謀而合：
- 機器人既不會普及也不會發展良好，但是它們將會存在。
正確！機器人尚未普及，依舊處於開發狀態。
- 人類將致力於設計擁有「機器人大腦」的車輛。這些車輛可以設置特定的目的地，在前進時不受駕駛緩慢的反應干擾。
正確！自動駕駛車輛是目前正在研發中的熱門產品，前途一片光明。
- 精巧的機械裝置將把人類從瑣碎的工作中解放出來。廚房設備被設計成自動裝置：燒開水並煮成咖啡、烤麵包、煮或炒蛋、烤培根等。只要前一天晚上預訂，早餐就會在第二天的指定時間準備好。
正確！雖非主力研究項目，但已有相似產品付諸實際運用，例如日本豪斯登堡樂園的奇妙餐廳（変なレストラン）。
- 在公元2014年的世界，幾乎沒有日常工作是機器無法做得比人纇更好的。因此，人類在工作上的角色將大幅轉變為機械運作的看管者。學校的方針因此改變。高中生將被教導電腦技術的基礎知識，熟練掌握二進制算數，並接受應用程式語言的完善訓練。
部分正確。自動化的理念正是如此，講究智慧化與客製化服務的第四次工業革命也是正在進行式，只是速度似乎沒有Asimov設想中來得快。在基礎教育方面，雖與全面普及仍有一段距離，但將編程等電腦相關技能向下扎根，是各國政府共同努力的方向。
- 通訊技術將發展出視聽功能。你將在聽到聲音的同時看見通話對象。而螢幕不僅可以用來查看通話對象，還可以用來研讀文件、相片，跟閱讀書本的文字段落。同步衛星將在太空中徘徊，使你能打電話到地球上的任何地點，包括南極洲的氣象站。
正確！視訊電話已實現多年，並在當下人手一支智慧型手機的社會中廣泛運用，儼然成為當代通訊不可或缺的一部分。
Asimov半世紀前的預言，竟與事實相去不遠。誰說他在科幻小說中所描繪的未來，僅只是天馬行空呢？
●機器人學三大定律
1942年，Asimov在短篇小說《轉圈圈》（Runaround）裡，首次提出著名的「機器人學三大定律」：
一、機器人不得傷害人類，或因不作為而使人類受到傷害；
A robot may not injure a human being or, through inaction, allow a human being to come to harm;
二、除非違背第一定律，機器人必須服從人類的命令；
A robot must obey the orders given it by human beings except where such orders would conflict with the First Law;
三、在不違背第一及第二定律的情況下，機器人必須保護自己。
A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.
若機器人不遵守規則，就會導致不可逆的傷害，以此作為機器人失去控制時的保險機制。在其他科幻作品中，也經常援引這三條定律，作為給機器人或AI系統的限制。
科學家創造強大的AI，是為了增進社會福祉。矛盾的是，許多科學家卻警告：倘若有一天功能強大的通用人工智慧（Artificial General Intelligence，AGI）成真，它將意識到人類之於宇宙只是滄海一粟，進而消滅或者奴役人類。Tesla執行長Elon Musk曾經表示，AGI可能使人類淪為機器的寵物，而聯合DeepMind的創辦人Mustafa Suleyman及數百名專家齊聲反對「致命自主武器系統」（Lethal Autonomous Weapons，LAWS）的開發。
在這樣的背景下，機器人學三大定律也受到前所未有的重視與討論。例如2016年，微軟CEO Satya Nadella曾在《未來的夥伴關係》（The Partnership of the Future）一文中提及：雖然層層遞進的三定律深具啟發，為AI倫理學提供了很好的基礎，但仍未提供一套研發團隊在開發AI模型或機器人時應該遵守的價值觀或設計原則。實際參與AI研究的知名科學家Ben Goertzel也透露：機器人學三大定律的邏輯缺陷太多，在小說中便存在許多漏洞，即使是機器倫理學界也不認為它是一個令人滿意的基礎。話雖如此，我們依然可以從三定律的失敗中學習，體認到任何試圖以具體規則為依據的道德規範注定會失敗。
然而這些批評似乎都忽略一個事實：Aismov不是以「科學家」，而是「科幻小說家」的身分寫下三大定律。在「機器人系列」中，正是因為三定律存在漏洞，才會帶出兩位主人公後續一系列的精采冒險。另一方面，不是所有學者都認為AI真的會反噬人類。比如Facebook 創辦人Mark Zuckerberg對此便抱持著樂觀的態度，認為技術的好壞取決於使用者；只要立意良善，AI將在不久的將來持續造福人類。
科學與反智主義
Asimov終其一生透過教育和著書，將知識傳播到更遠的地方。某種程度上，可以視為對於1980年代「反智主義」（anti-intellectualism）盛行的一種反制。當時的美國政治人物為博取大眾選票無所不用其極，Asimov對此撰文感嘆：美國存在一種「名為無知的邪教」（a cult of ignorance），人們誤以為民主意味著「我的無知就跟你的知識一樣好」。在那個年代，Asimov更是少數公開支持同性戀、女性權益的公眾人物。
1992年，Asimov撒手人寰，然而當時的媒體對於他的死因卻沒有太多的著墨。直到多年後，Asimov的第二任妻子代為出版他的自傳時，才透漏：Asimov是因手術輸血而感染愛滋病毒（HIV），後續引發心腎衰竭而逝世。那是個HIV知識尚未普及，對於愛滋病仍充滿歧視的年代。即使Asimov處之泰然，並願意公諸於世，但在醫師的建議與輿論偏見可能殃及家人的考慮下作罷。這段令人五味雜陳的插曲，正突顯了Asimov生前所堅持──科學普及的重要性。
參考資料
- Biography.com Editors, “Isaac Asimov Biography“, The Biography.com website, 2014.
- Gregersen, E. , “Isaac Asimov | Biography & Facts“, Encyclopedia Britannica, 2020.
- Dvorsky, G., “Why Asimov’s Three Laws Of Robotics Can’t Protect Us“, Gizmodo, 2014.
- House of Representatives, U. S., “Text – H.Res.1055 – 111th Congress (2009-2010): Supporting the designation of National Robotics Week as an annual event.“, gov, 2010.
- Garmon, J., “Geek Trivia: Action-pact science fiction“, TechRepublic, 2006.
- Open Culture Editors, “Isaac Asimov’s 1964 Predictions About What the World Will Look 50 Years Later“, Open Culture, 2013.
- Nadella, S, “Microsoft’s CEO Explores How Humans and A.I. Can Solve Society’s Challenges—Together“, Slate Magazine, 2016.
- Salge, C., “Asimov’s Laws Won’t Stop Robots from Harming Humans, So We’ve Developed a Better Solution“, Scientific American, 2020.
- 徐子軒（民107年12月17日）。AI武器未來戰（上）：「殺手機器人」的禁令謬誤？。
- 葉李華（無日期）。艾西莫夫傳奇。
(本文為教育部「人工智慧技術及應用人才培育計畫」成果內容)