傾聽其他AI的心聲

傾聽其他AI的心聲

編譯/臺大資工系 黃柏瑋

他人的錯誤信念

心智理論(Theory of mind,ToM),泛指能夠理解自己以及周圍其他人,包括情緒、信念(belief)、意圖、認知等心理狀態的能力。人類幼童在四至五歲時,即發展出相當的ToM,能意識到他人信念可能與現實有所落差。

Sally-Anne測試,是心理學家常用以評估一個體是否已發展出ToM的工具:情境中的兩位要角─Sally和Anne─同時坐在一個籃子與一個箱子的旁邊,Sally將一顆球放入籃子後離開現場,接著Anne在Sally不知情的情況下,暗地裡把球從籃子移至箱子中。研究人員接著詢問全程在場旁觀的受試者:當Sally回來時,會最先伸手到籃子或箱子裡找球?

若受試者回答「籃子」,則代表其能充分理解Sally因為沒有目擊Anne的動作,而產生與事實(球已被移到箱子裡)不符的錯誤信念(認為球在籃子裡),具備ToM;反之,則代表其無法站在Sally的立場思考,是否具備ToM有待商榷。

機器人如何理解機器人

AI的類神經網路極其複雜,往往超乎人類所能夠理解的範圍,好比黑盒子般令人難以參透,使得人們無法確實掌握背後的運作機制,以至於產生不信任感。面對這樣的情況,有些專家嘗試藉由開發另一種AI,幫助人類理解AI的運作。DeepMind研究人員Neil Rabinowitz及同事,便是其中之一。受到ToM的啟發,Rabinowitz設計出一名為「ToMnet」的AI。

ToMnet由三層神經網路所構成:第一層網路,依據過去行為預測其他AI未來的行為傾向;第二層網路,理解其他AI現有的信念;第三層網路,則依據前兩組網路的結果與當下情境,預測其他AI接下來的舉措。

實驗中,研究人員安排其他三個AI在虛擬空間中四處收集彩色盒子以獲取積分,而ToMnet則在空間上方俯視所有角色的行動。三個AI分別有各自的角色設定與「性格」,分別是:看不見周遭環境的「盲人」、記不得自己最近做過什麼的「健忘者」以及視力與記憶力無礙的「正常人」。盲人傾向沿著牆前進;健忘者總是什麼東西靠得最近便抓什麼;正常人則會運用策略,並規劃路線以獲得高分。

ToMnet在經過訓練後,便能依據觀察結果,預測不同角色未來的行為。此外,ToMnet也能通過經典的Sally-Anne測驗,意識到其他AI可能抱持著錯誤信念(false belief),例如:當研究人員將新角色─「近視者」加入虛擬空間中,在其清晰視野之外的空間被改變後,ToMnet精準預測近視者接下來不會如正常人一般,改變原有的行進方向。

福兮?禍兮?

其實,AI在「情緒辨識」方面已經有不小收穫,例如:許多臉部辨識軟體已可偵測出人類極細微的臉部表情、分辨對方是否誠懇,甚至如性向、政治立場、智商等私人訊息;「語音辨識」軟體,亦可由音調及語氣,推測人類當下的情緒,觀察之細膩甚至遠超過人類對自身的了解。此外,透過好友名單、網頁瀏覽紀錄與聊天紀錄等大數據,一個人的個性,在AI過人的運算與統計分析能力之前,已然無所遁形。諸如此類,早已為Facebook、Youtube等娛樂與社群網站所用,分析大眾喜好,推出更受歡迎的操作介面或作品。

當然,這些應用並非總是充滿市儈氣息。例如麻省理工媒體實驗室Affectiva,嘗試在車廂內部加裝AI情緒辨識系統,以紅外線和 RGB 相機追蹤駕駛臉部表情與頭部位置,監督駕駛精神與心理狀態,令AI能適時介入,取代人類駕駛。 然而,水能載舟,亦能覆舟。或許更令人坐立不安的是:當人工智慧學會理解其他AI的心智後,是否會進一步解析人類的心理,甚至操控人類的喜好與判斷?但就像知名駭客Kevin David Mitnick曾說過:「我對人工智慧沒有具體立場,因為它本身是中立的。它最後到底是好是壞,取決於人類的應用。」

 

編譯來源

M. Hutson, “Artificial intelligence has learned to probe the minds of other computers“, Science|AAAS, 2018.

參考資料

  1. Pete Etchells, “The Sally Anne task: a psychological experiment for a post-truth era”, The Guardian, 2017.
  2. Mikko Alasaarela, “The Rise of Emotionally Intelligent AI”, Median, 2017.
(Visited 1 times, 1 visits today)
views