AI偵探能打擊幫派──也將引爆道德危機?

■黑道份子燒殺擄掠、處處行兇,是警方從古自今的難解之題。如何辨認行兇案件是否與某個集團有所關聯? 該罪犯會不會再次冷血報復? 今天,這些問題正被一個嶄新的演算法一網打盡,它可以全自動化地利用更少的特徵,將行凶者分門別類,甚至預測犯罪,猶如科幻電影《關鍵報告》的情節滲入現實當中。然而,這把利劍的另一鋒刃也尖銳地刺向許多道德議題:壞人反向操作新技術預測警方的逮捕行動、每位無辜的人都要承擔著被誤判的風險……

編譯|王勻遠

●警察搭檔AI偵探

多年來,科學家致力研發電腦的演算法來梳理複雜的犯罪網路,嘗試預測行兇案件的可能發生之處,例如預測性警務(Predictive Analytics)系統[參2]。然而,如何識別犯罪與幫派的關聯性,這塊領域仍鮮少開發,只能靠受過特訓的警察單位盡可能地蒐集線索,進行人工判斷(例如偵訊每一位犯罪嫌疑人),既耗力又曠日費時。

幸好,研發人員打造了新型態的演算法,只要告訴它犯罪案件中的幾項資訊:行兇武器、嫌疑犯人數、犯案地點以及時間等等[參1],它就能像電影中的名偵探福爾摩斯,利用稀少的線索旁敲側擊、層層推理,將案件分門別類,透析出與幫派相關聯的犯罪。這些推斷可以在警方進行全面調查之前閃電完成。

●進化版AI──舉一反十

這位AI偵探何能練就這麼聰明絕頂的功夫呢?武功祕笈就在於「部分生成神經網路(Generative Neural Network)」。有別於需要大量特徵線索的一般類神經網路,在訓練過程中,它能從案件裡少量的特徵之間,推敲出其他的特徵,來擴增判斷依據,即所謂的「部分生成」。目前已有些將模糊圖案變成清晰畫面的人工智慧也運用了相類似的技術精隨。

好比說,當我們大老遠看到一個人走向體育館,手裡抱著褐色「籃球」(特徵一)、穿著「運動上衣」(特徵二),但看不清他穿的到底是什麼鞋子,此時,我們會自動根據經驗以及特徵搭配的邏輯進行「腦補」:他腳上那雙應該是「籃球鞋」(特徵三),並總結判斷出他正準備要去「打籃球」。

正因如此,對這位AI偵探來說,他不需要在一宗犯罪案件中知道全部的特徵;反之,他只需要部份的線索,推演出兇手更全面的樣貌。即便它在辦案時,遺漏了某樣線索,導致「缺失特徵(Missing Feature)」,他仍能利用先前生成的額外特徵,進行更精確的判斷、分類。根據美國南加州大學與洛杉磯警察局合作的實驗[參1],他們利用「部分生成神經網路」歸類2016年裡的行凶案,其中幫派相關聯的案件識別率從79%提升到了85%,一舉突破了6%。

圖一、部分生成神經網路簡化示意圖。由特徵一和特徵二推敲出額外特徵(特徵三),再經由神經網路加以輔助判斷。即便某特徵在判斷過程中遺漏了(例如缺失特徵二),它依然能透過特徵一及先前生成的特徵三路徑進行判斷[參1]。
●能舉一反十,但非十全十美

然而,這亂世英雄的人工智慧也點燃了種種危機。儘管這項新發明在人口稠密的複雜都市裡是位疾風厲行的偵探高手,但它迅猛的智慧也將颳起道德風暴。有人持批判觀點質問:「萬一無辜的人被誤判與犯罪集團相關,將由誰背負決策錯誤的責任?壞人會不會反向利用這項技術,來逃脫警方的重重突圍,預測逮捕行動?」而擁護的一方則用比喻來反駁:「當火箭直衝雲霄,誰會在乎它會不會墜落呢?」

顯然,工程師仍需面對並填補這項新發明所產生的道德隙縫。科技的發展往往捷足先登,而相關法規制定落後,道德議題也未能充分討論,因此,在Google也有軟體工程師研究並設法降低人工智慧與道德、社會觀感所產生的不平衡張力。但這位環繞著許多爭議的AI偵探發明並非個案,於是在2017年的一月,近千名人工智慧專家聯合簽署了「阿西洛馬人工智慧原則(Asilomar AI Principles)」,呼籲研發人員推動人工智慧發展的同時,應重視整體社會和諧以及需貼近廣泛認同的倫理道德。除了專家們,多位知名人士—如飾演《鋼鐵人》系列電影中的男主角馬斯克,以及近日隆重逝世的物理學家史蒂芬·霍金,都是該原則的簽署人。幽默風趣、畢生樂觀面對絕症的霍金,曾這麼語重心長地警告世人:

「人工智慧將會是人類文明中最糟糕的事,除非我們能全權掌控它該如何發展。」

衝刺著人工智慧發展的同時,也應適時停下腳步,不僅僅是工程師,我們也有義務去思考人工智慧對社會潛在的副作用。文明的革新不是單單推動科技,需要整體社會、法治與道德素養齊頭並進。

 

編譯來源:Artificial intelligence could identify gang crimes—and ignite an ethical firestorm” Science Technology (2018)

參考資料:

  1. Sungyong Seo et al., “Partially Generative Neural Networks for Gang Crime Classification with Partial Information,” AIES (2018)
  2. Can “predictive policing” prevent crime before it happens? Science Technology (2016)

 

 

加入好友

2,888 人瀏覽過