AI的可解釋性是什麼?能吃嗎?

AI的可解釋性是什麼?能吃嗎?

撰文/賴佳昀

為什麼需要「可解釋性」?

舉凡醫療、公共安全、金融市場……,隨著機器學習逐漸滲透我們的生活,我們不再滿足於正確的預測結果,對於背後的模型運作機制也同樣好奇。一來,當模型給出的預測與實際情況有所出入時,能準確地找出問題點;二來,由於生活中的問題往往比較複雜,很難完美、貼切地寫成電腦可以解決的問題。譬如,當一個公司要雇用新人時,生產力、工作倫理、合法性都是必須納入考量的範圍,但是後兩者並無法直接寫成可量化的公式。因為問題轉化的不完全,導致只得到預測結果是不夠的,我們還得知道模型是如何一步步得到最後的結果。「可解釋性」(Interpretability)便是在這樣的脈絡下被提出。

研究可解釋性最主要的原因就如前面所提到的:信任。不僅是「訓練好的模型是否足以應付實際情況?」、「模型做出正確預測或決策的機率為何?」、「在哪些情境與案例下,模型會得出正確的結論?」,甚至於「模型決策過程與結果是否符合倫理與法律上的考量?」

解釋模型的兩種途徑

解釋模型大致上可從兩方面切入:一是直接解釋模型本身,提升模型的透明度(transparency);二則是以「事後歸因」(post-hoc explanations)的方式,解讀模型除了預測結果之外,還提供了哪些有用的資訊。

提升模型透明度,最直觀的想法是一個人拿著同樣的數據與模型參數,按部就班地在合理的時間內核算,是否能得出與模型相同的結果。然而,這只能套用在結構相對簡單的模型上,一旦所使用的變數越來越多,即使是線性模型也會變得非常複雜,超乎人類可理解的範圍。第二種想法,則是將模型分割成一個個可理解的小零件,譬如說建立模型的參數、輸入的數據等,都有明確定義。例如:決策樹中,每個分支都有明確的把關條件;線性模型中,每個加權參數都代表該項的重要性。不過,這個方法並不適用於高度處理過的數據,因為這些數據已經抽象化了。第三種可能則與演算法有關,通常線性模型的演算法較為透明,而深度學習則否。

「事後歸因」(我喜歡想成「果因關係」)則與前述相反,是以最終的結果去反推模型可能的運作機制。「可視化」(visualization)是事後歸因的一種形式,定性地反向推導模型是如何一步步給出最終的預測結果。當整個模型過於龐大、複雜而難以周全,還可以將模型分割,一部份一部份地分析,稱為局部解釋法。繪製顯著圖(saliency map)是最廣為使用的方法,它可以讓我們了解一張圖片中,哪些特定部位對模型結果預測的影響較大。舉例來說,如果我們要訓練模型辨別狗的圖片,那顯著圖就可以告訴我們,究竟是尾巴、耳朵、鼻子或其他部位,是模型辨別狗的重要依據。還有一種方式,則是以類比的方法去理解模型,這就像醫生或律師會用案例來支持他們的論述。

模型解讀很重要嗎?有些人反對這樣的想法,認為這違背了人工智慧或機器學習的初衷;但在某些行業中,例如保險或銀行業,模型給出預測前的每一步都相當重要,必須被仔細檢視,甚至連「需要什麼形式的可解釋性」、「此種解釋方式是否會造成誤解」等,都必須有明確的論述。

 

參考資料

  1. Z. C. Lipton, “The mythos of model interpretability,” arXiv preprint arXiv:1606.03490, 2016.
  2. T. Miller, “Explanation in artificial intelligence: Insights from the social sciences,” Artificial Intelligence, 2018.

(本文由教育部補助「AI報報─AI科普推廣計畫」執行團隊編譯)

(Visited 1 times, 1 visits today)
views