數位分身(3/3)

撰文／Pedro Domingos｜譯者／周坤毅
轉載自《科學人》2018年10月第200期

謀事在人

畢竟，最大的隱憂並不是有一天AI會變得邪惡，而是控制AI的人會濫用AI，就像法國人所說的「cherchez l’human」（謀事在人）。資料銀行最重要的責任，是確保你的模型不會用於損害你的利益。你和資料銀行都得對AI犯罪提高警覺，以免讓壞蛋有機可趁。就像吉布森（William Gibson）在1984年的小說《神經浪遊者》（Neuromancer）中所描述的涂林警察，我們需要AI警察來追緝AI罪犯。

假如你不幸住在獨裁國家，政府將能以前所未見的方式監控你，這會帶來空前的危險。考慮機器學習的進步速度以及已開始使用的治安預測系統，在電影《關鍵報告》（Minority Report）中，人們在犯罪前就被逮捕的情節，也就不再那麼難以置信。此外，還有不平等的問題，在每個人都負擔得起數位分身之前，人類社會還需要時間來調適這些情況。

因此每一個人的首要責任，是別變得自滿而過度信任數位分身。我們很容易忘記AI就像封閉在象牙塔的學者，而且在可預見的未來都將如此。AI的外在看似客觀甚至完美，但內在就像人類一樣充滿缺陷，只是方式不同。AI缺乏常識，容易犯下人類不會犯的錯誤，例如把穿越馬路的行人誤認成被風吹起的塑膠袋。AI也很可能按照字面解讀人類的命令，一絲不苟執行我們說過的話，而非我們真正想要達成的事。因此下次你要求自動駕駛汽車不計代價準時趕到機場前，最好先想一下再說出口。

實際上，數位分身將和你十分相似，足以代替你進行各種虛擬交流。它的任務不是接管你的人生，而是替你嘗試那些你沒有時間、耐心或知識去做的決定。它會讀完亞馬遜網站上的每一本書，再推薦你最有可能想自己去讀的少數幾本。如果你想買車，它會替你研究各種購車方案，並與經銷商的機器人討價還價。如果你在找工作，它會先篩選所有適合你的工作，然後針對最有希望的職位安排視訊面試。如果你被診斷出癌症，它會替你嘗試所有可能的療法，並建議最有效的一種（為了大眾福祉，你也有道義責任讓數位分身參與醫學研究）。如果你想找約會對象，你的數位分身會和所有符合資格的數位分身進行數百萬場虛擬約會。在網路空間中最契合的一對，便能在實際生活中來場浪漫約會。

基本上，你的數位分身將在網路空間中替你嘗試無數的可能人生，因此你在現實世界中所經歷的將是最佳人生。但你的虛擬人生是否「真實」，或數位分身是否像影集《黑鏡》（Black Mirror）所描述的具有意識，則是有趣的哲學問題。

有些人擔心，這代表我們把人生的掌控權交給了電腦。但實際上是電腦給予我們更多掌控權，因為我們將能做出過去所無法做的決定。你的模型也會從每次虛擬經驗中學習（你是否享受約會？你喜歡新工作嗎？），隨著時間，模型會更善於向你提議你可能做的決定。

事實上，我們已經很習慣在無意間做出決定，因為這正是大腦所做的。你的數位分身就像大幅擴張的潛意識，關鍵差異在於你的潛意識只存在於腦袋，而你的數位分身不斷與其他人或組織的數位分身交流。每個人的數位分身會持續嘗試向其他模型學習，組成數位分身的社會將以電腦運算的速度朝各方向擴展，找出我們會做的決定。機器將成為我們的先鋒，帶領人類個體與族群朝未來邁進。AI將帶領我們走向何方？而我們會選擇往哪裡走？(完)

(本文由教育部補助「AI報報─AI科普推廣計畫」取得網路轉載授權)