性盲信用評比中的性別偏見

2019年11月的某個清晨,紐約金融服務部對高盛集團展開一項性平調查。原因是David Heinemeier Hansson(網頁應用開發框架Ruby on Rails的原創者)在Twitter上發文,指控蘋果公司信用卡Apple Card的核卡制度不利於女性申辦人。在自己與妻子同時以聯合納稅申報表申辦的前提下,核發給自己的刷卡額度竟是妻子的20倍!對此,委託管理Apple Card的高盛,在聲明中強調內部信用評估所使用的演算法完全不考慮「性別」這項因子。這凸顯了AI公平性這項議題上的一個弔詭:當電腦完全不知道某人性別時,如何去歧視?

Read more

深度學習可以從腦波判斷性別?

■雖然男女之間無論在生理或解剖學上都有相當大的不同,但若只給你一張腦電圖,你能看得出來這是來自男生還是女生的腦袋嗎?這時深度學習就會是個很實用的工具。講到這裡,或許有人會想問為什麼要繞這麼大一個遠路判斷人的性別,畢竟通常只要看到人的模樣就知道了,但回頭來仔細想想,這是不是也強調著深度學習在預測功能以外的角色呢?

Read more