預測準確就好了嗎?談人工智慧的不公平

分享至

許多報導中提到AI的「不公平」,其實都是來自「原始資料中就已經存在的」群體差異。對於這個問題,有些討論強調「原始資料可能不準確,導致預測失準」,但在這個問題之外,我們也可以討論,預測準確真的是AI發展當前的唯一目標嗎?為此,文章中也介紹了「統計歧視」這個概念,幫助大家進一步思考這個問題。

撰文|謝達文

 

來源:MotionElements

 

設想你有一個兒子、一個女兒,兩人年紀相仿;有一天,他們看到網路上有一個AI工具,只需要上傳自己的照片,就可以製造出數十張好看的圖繪,兩人非常興奮,各自上傳了一組自拍。

你的兒子興高采烈地將成品給你看,在這數十張圖中,有些將他畫成超級英雄,也有的將他畫成太空人、運動員、科學家,你也看得很開心,並且說了幾句跟追逐夢想有關的話。

接著,你看向你女兒的螢幕:在超過一半的圖中,妳女兒被畫成了性感尤物,衣著妖豔,並且以嬌媚的眼神看向觀眾──儘管你女兒上傳的,是一組很家常的自拍照。

這時候,你要跟妳女兒說什麼?

這不是危言聳聽的故事,而是改編自應用程式Lensa AI的真實案例。英國《衛報》(The Guardian)記者上傳了三位女性主義者不同生涯階段的照片,結果得到的結果多數年輕,而且充斥著裸身躺在床上等圖片(Demopoulos, 2022)。另一位女性作家也上傳了自己的照片,包含自己的童年照,同樣得到了各種裸露、誘惑的圖片(Snow, 2022)

為什麼會這樣?這很可能並非出自設計者的任何惡意,而是因為AI是從既有的資料中「學習」可以產出怎樣的圖片。事實上,當《衛報》的記者詢問Lensa AI的公司時,公司就強調,他們的模型「是用未經篩選的網路內容進行訓練,因此將反映人們製作圖像時的各種偏誤」──網路上有太多把女性當成性感尤物的照片(相對地,男性更可能出現在專業形象的照片中),而機器所「學習」到的,就是要把帶有女性特徵的照片做得更像「網路上那些女性」。

 

如果問題只會出現在圖繪上,或許還沒那麼嚴重。

但2019年的調查批露,荷蘭國稅局所使用的AI,六年來累積認定26,000名父母親逃漏稅,政府因此向他們追討高額的稅款,造成他們在財務跟心理上的龐大壓力,最後政府才發現許多案例都是誤判──而這些家長中,低收入戶、移民和少數族裔佔據不成比例的多數(Heikkilä, 2022)

除了稅務之外,求職、貸款、警政等領域,也可能有類似的問題,社會上已經比較弱勢的群體,在AI的「判斷」中,也容易被認為能力比較低、風險比較高,或者比較危險。

這背後的原因,跟上面繪圖的例子原理相通:因為資料庫裡的「那些人」,紀錄上比較可能「那樣」(不論是「呈現性感的樣子」,「容易逃漏稅」,還是「還款能力比較差」),所以AI在「學習」之後,也給出了「那樣」的答案,即使這個答案可能不公平。

 

而這背後的「不公平」,又可以分成兩個層次討論:

首先,有些偏誤是來自「原始資料不準」。

以警政為例,歐盟2022年的報告(European Union Agency for Fundamental Rights, 2022)就特別強調,資料庫裡某些種族「看似比較常犯罪」,未必是因為這些種族的人「真的比較常犯罪」,而可能是因為警察之前比較常巡邏這些種族聚集的社區;此外,不同犯罪的通報率不同,也可能間接影響各種族帳面上的犯罪率有關(比如:不同種族經常使用的毒品不同,而使用不同種毒品被抓的機率又不一樣)。因此,資料庫的資料,實際上不能反映「真正的」情形,可能高估了少數種族的犯罪率。

而研究更顯示,這個問題還會層層疊加,警方過去抓比較多人的社區(也是某種族比較集中的社區),AI就會判斷更需要去巡邏,而當警方派越多人去巡邏那個社區,就真的會讓這個社區的犯罪率「看來」更高,AI之後因此又更會建議警方多去,造成循環(McInerney, 2022)。

 

但是,第二個層次是,即使資料完全準確,問題就解決了嗎?

在求職的領域,經濟學家和社會學家會關注一種歧視,叫做「統計歧視(statistical discrimination)」,舉例而言,雇主看到一個女性求職者,心裡想:「我不知道這個人本身工作能力怎樣,但過去的經驗是,女性比較可能做個幾年就跑去生小孩,所以我不太敢僱用女性。」

這個例子中的女性與生小孩,可以替換成其他的弱勢群體和常見「問題」,總之重點是:雇主可能會看到一個「真實的大趨勢」,就因此歧視「整個群體」。

其實,這個問題在60年代就已經被提出,當時研究者設想的決策者是「憑著過去經驗猜測的雇主」,但到達AI越來越興盛的年代,這個問題可能也會體現「憑著過去經驗做預測的AI」。

讓我們回到犯罪的例子:即使某個種族的人犯罪率真的比較高,我們真的就該多派警察過去巡邏嗎?這樣公平嗎?這會不會讓這個社區的少年一天到晚被攔查,因此反而更討厭、更不信任警察,因此犯罪率更高?

或者,回到文初繪圖的例子,即使網路上女性呈現性感姿態的圖片真的比較多,我們該繼續把女孩的照片都做成性感的樣子嗎?

再舉一個台灣讀者可能很有感的例子,如果臉書的資料確實顯示,貼文講到「美國人」、「英國人」時,出現歧視或過激言論的機率較低,但講到「台灣人」、「中國人」或「香港人」時機率較高;因此,臉書更改設定,只要文章提到「台灣」等詞彙,尤其如果又搭配一些其他語詞(比如:不爽、殺人),就更可能被臉書審查貼文(俗稱的「被祖」),這樣合理嗎?

面對求職、警政、借貸等生活中重要的問題,AI以及建立在其上的決策系統,如果一味追求預測準確,會不會只是打造了高科技版的統計歧視呢?會不會,除了「精準預測」之外,我們也該預先設想歧視或不公平可能發生的所在,讓「應對這些問題」能夠內建於AI(或建立在其上的決策系統)之中呢?這或許是下一階段AI發展必須思考的問題。

 

參考資料(依文中出現順序):

  1. Demopoulos, Alaina. 2022. “The Inherent Misogyny of AI Portraits – Amelia Earhart Rendered Naked on a Bed.” The Guardian. Retrieved from:
    https://www.theguardian.com/us-news/2022/dec/09/lensa-ai-portraits-misogyny
  2. Snow, Oliver. 2022. “’Magic Avatar’ App Lensa Generated Nudes From My Childhood Photos.” Wired. Retrieved from:
    https://www.wired.com/story/lensa-artificial-intelligence-csem/
  3. Heikkilä, Melissa. 2022. “Dutch Scandal Serves as a Warning for Europe over Risks of Using Algorithms.” Politico. Retrieved from:
    https://www.politico.eu/article/dutch-scandal-serves-as-a-warning-for-europe-over-risks-of-using-algorithms/
  4. European Union Agency for Fundamental Rights. 2022. “Bias in Algorithms - Artificial Intelligence and Discrimination.” Retrieved from:
    https://fra.europa.eu/sites/default/files/fra_uploads/fra-2022-bias-in-algorithms_en.pdf
  5. McInerney, Scott. 2022. “Perfectly Imperfect Machines: How Artificial Intelligence Algorithms Produce Biased Decisions.” The Badger Herald. Retrieved from:
    https://badgerherald.com/news/2022/09/23/perfectly-imperfect-machines-how-artificial-intelligence-algorithms-produce-biased-decisions/

 

(Visited 382 times, 1 visits today)

分享至
views