性盲信用評比中的性別偏見

性盲信用評比中的性別偏見

編譯/陳宣豪

性別欄以外的性別

然而,在實務上,即使完全去除數據中的性別資料,演算法仍然可以輕易地從其他高度相關的變量中推導出被評估者的性別。於是數據中因為人為因素遺留下的性別不平等(例如就歷史資料而言,核發給女性的信用額度普遍偏低),因為少了針對性別的調整與校正,不但沒有被及時糾正,甚至被沿用更放大了!(其他如種族等特徵亦有同樣的現象)而這,或也就是高盛Apple Card案的主因。

於是,如果我們反其道而行,將性別納入考量,是否有助於減輕對性別的偏見呢?西北大學助理教授Sean Higgins的一項實驗,似乎支持這樣的想法。

Higgins的研究團隊與多米尼加的一家商業銀行合作,以演算法評估兩萬名低收入人口(男女各半)的信貸額度,但使用兩個不同的資料庫:第一個資料庫是全體兩萬名男女的個人還貸紀錄;第二個資料庫則只有女性的還貸數據。最終發現:第二個資料庫所訓練出的模型給予93%的女性較男女混合模型更高的信貸額度。

然而諷刺的是,這種作法在許多國家,例如美國,其實是違法的。

過時的性平法案?

由於過去婦女經常被銀行拒絕信貸,因此美國政府特意立法禁止任何債權人因性別拒絕債務人的信貸資格或降低額度。1974年《平等信貸機會法》(Equal Credit Opportunity Act,ECOA)施行,1976年更進一步將種族(race)、族裔(national origin)等面向納入,擴大該法的保護範圍。

誰也未曾想到,原先立意良善的ECOA,竟成為性平信用評比的最大障礙。Higgins認為:目前針對演算法公平性的研究已陸續得出相當明確的結論,我們應該考慮種族、性別等變量,才能在事前建立一套標準程序來檢驗演算法是否存在任何不易察覺的偏見,而不是「看推特才知道」。如果一個法案的立法初衷與施行結果背道而馳,是否正意味著改變的時機到了?

加州大學洛杉磯分校的法學助理教授Andrew Selbst則認為不宜冒進。貿然廢除或修正ECOA,稍有不慎都可能為那些別有居心者廣開道路,毫無避諱地以合法之名行歧視之實,反而無意中造成更大傷害。

 

編譯來源

K. Hao, “MIT Technology Review: There’s an easy way to make lending fairer for women. Trouble is, it’s illegal,” MIT Technology Review, 2019.

參考資料

  1. J. Kleinberg, J. Ludwig, S. Mullainathan and A. Rambachan, “Algorithmic Fairness“, AEA Papers and Proceedings, vol. 108, pp. 22-27, 2018.
  2. S. Higgins, “Gender-differentiated Credit Scores: Bridging the Gender Gap in Access to Credit,” Medium, 2019.

(本文由教育部補助「AI報報─AI科普推廣計畫」執行團隊編譯)

(Visited 1 times, 1 visits today)
views