無所不在的臉部辨識 是對弱勢者的溫柔還是另一種歧視?

無所不在的臉部辨識 是對弱勢者的溫柔還是另一種歧視?

編譯/江彥成、黃思齊

低侵略性的身分辨識

無家可歸的弱勢者常常在多個社福團體間流轉,為了使社會資源能夠被妥善利用,記錄他們的身份十分重要,然而他們也往往拿不出駕照或其他有效的身分證件。

美國一些社福團體,曾經採用指紋來辨識這群人的身分,但當天氣寒冷、手指有污損、殘缺或受傷時,指紋便不是一個可依賴的辨識依據;也常有個案因為前科或對社福單位的不信任,拒絕按捺指紋。後來也陸續嘗試過RFID技術(Radio Frequency IDentification,無線射頻辨識)和虹膜辨識等其他方法,但都因為卡片容易丟失或檢測過程不便而以失敗告終。

眾多辨識技術中,臉部辨識脫穎而出:不需要物理接觸,也不需要將人攔下盤查。透過這種不過於侵略、低羞辱的身分識別方法,社福機構得以獲得更詳盡的身分資料,即時掌握弱勢族群的動態變化,提供及時且有效的幫助。

為了避免耳機、口罩等常見的佩戴品干擾系統的辨識準確度,Tech for Social Good 組織與新創公司iMetrix合作,進一步加強系統的寬容度。在疫情之下,這項技術意外地廣受各個公私立機關的歡迎。然而,這僅僅是人臉辨識的其中一個面向。

疫情之下,臉部辨識系統的開發商致力於提高系統的靈活度。(圖片來源:SAFR

當新科技正流行

位於紐約曼哈頓下城和布魯克林大橋之間,1934年落成、將近1,600戶的尼克博客村(Knickerbocker Village),是一處在大蕭條期間為了中下階級建造的社會住宅。2013年,在超級颶風桑迪的摧殘下,該處公宅經歷了一番整修。管理的物業公司為了吸引更多新住戶以更高的租金承租,計畫在各個大門口加裝臉部掃描辨識,作為社區新的「高科技」門禁系統。

然而就在這套新的門禁系統啟用滿七年時,開始有立法者研議禁止在居住區使用臉部辨識或相關技術。除了來拜訪住戶的親朋好友,或剛承租的住戶,常常因為系統更新太慢,而被擋在門外之外,華裔占多數的租戶們,也擔心這些資訊被用於非法移民或犯罪調查等用途。他們的疑慮可不是空穴來風。

更好的底特律

被「譽」為全美最危險城市之一的底特律,在2016年展開了一項稱為「綠燈計畫」(Green Light Project)的警民合作專案。由底特律市政府警政單位發起,一開始僅與八家加油站簽訂了高解析度監視器實況監控的合作備忘錄,藉此嚇阻可能的犯罪,或在罪案發生後提供警方有利的辦案線索。

參與該計畫的合作夥伴都需要安裝高畫質(1080p以上)的監視攝影機,並透過高速網路連接到警局總部,即時直播。這套系統的安裝與維持所費不貲,一套約4,000美元的安裝費以及450美元的月費,由參與的商家及政府委員會的預算中支應。被監控的街區,還會特別加裝顯眼的綠色燈光與標誌。計畫啟動迄今,已經由原先的8家加油站擴展至超過400個站點,包含學校、洗衣店、便利商店及學校,甚至還有專門的地圖特別標示出這些「綠燈區」。

綠燈計畫的監視區域都有明顯的綠光標誌(圖片來源:Project Green Light Detroit)

根據底特律警方的說法:這項計畫效果好極了!「自2016年1月以來,參與綠燈計畫的前八個地點,犯罪率下降40%;2017年,所有合作點(當時約200多個地點)犯罪率與去年相比下降11%,表現較全市(平均降幅7%)更為亮眼!」參與的部分商家也聲稱綠燈計畫有一定的廣告效益,鑑於底特律的惡名昭彰,入夜之後,消費者更偏好到有綠燈標識的店家消費。

發生在Palmer Park附近的一起槍擊案,是綠燈計畫的第一個收穫:一位跨性別工作者在下班時遭到搶劫,歹徒還開槍射傷了他。儘管沒有做到事前預防,但綠燈計畫錄下的監視影像讓警察得以鎖定嫌疑人車輛,並在隔天晚上逮捕了嫌疑犯。在法庭上,該影像也被當作證據,起訴嫌疑犯。

但城市研究所的研究人員Bryce Peterson仍質疑目前的樣本太小,同時採樣的時間也不夠長。由於全國許多城市的犯罪率持續的下降,在缺乏明確對照組的情況下,犯罪率的下降很難被歸功於特定計畫或是政策。同時,與美國公民自由聯盟(American Civil Liberties Union)合作的律師Eric Williams則認為,有大量證據表明:增加照明和加強巡邏,才是減少犯罪的最佳方法。

儘管有質疑聲浪,但綠燈計畫仍不斷擴張。令人擔憂的是,目前美國並沒有任何法律限制綠燈計畫的應用範圍,包含資料如何儲存、如何調用?誰有資格調用及資料的使用範圍等問題。2020年6月,便有當地媒體報導,稱在「黑命貴」的抗議活動中,綠燈計劃的影像就被用來告發抗議民眾沒有保持社交距離,最高可被處以1,000美元的健康秩序罰款。

漏洞百出的資料庫

除此之外,麻省理工學院和美國國家標準與技術研究院(NIST)的最新研究發現:警方常使用的人臉辨識系統對於高加索人種男性相對有效,但對於其他人種而言,準確性較低,部分可歸咎於資料庫裡的樣本缺乏多樣性。這是警方持續使用臉部辨識系統二十餘年以來,遲遲未克服的一個問題。

Robert Julian-Borchak Williams是美國第一起因為臉部辨識結果粗糙,而被錯誤逮捕的受害者。他在自家車道上被警方逮捕,警方根據監視影像截圖指控他竊盜五枚價值3,800美元的手錶。隨後,他被帶到拘留所關押了一夜。可笑的是,隔天警方出示的照片即使十分模糊,但仍可以看出根本不像他。

幕後的罪魁禍首DataWorks臉部辨識系統,結合了日本NEC和Rank One Computing開發的套件;而後兩者在2019年聯邦政府的一項研究中被揭露:非裔和亞裔人士的臉部辨識錯誤率極高,是高加索人種的10倍至100倍!

2020年6月,亞馬遜在人權團體的壓力之下宣布暫停與警方的合作,不再提供自家的臉部辨識系統用於執法;微軟承諾在全國性的相關法令出現以前,不會與警方達成任何臉部辨識系統上的合作;IBM則更進一步,宣布終止所有臉部辨識項目的開發。顯見一項新科技往往不是「優」或「劣」的二分法可以簡單概括的。

編譯來源

  • J. Strong, T. Ryan-Mosley, E. Cillekens and K. Hao, “No Face… No Service“,In Machines We Trust, 2021.

參考資料

  1. Project Green Light Detroit | City of Detroit“,City of Detroit.
  2. Race, Policing, and Detroit’s Project Green Light“,Center for Ethics, Society, and Computing.
  3. A. Gross, “Does Detroit’s Project Green Light really make the city safer?“,Detroit Free Press, 2018.
  4. E. Kim, “‘We’re Like Guinea Pigs’: How An Affordable Lower East Side Complex Got Facial Recognition“,Gothamist, 2019.
  5. K. Hill, “Wrongfully Accused by an Algorithm“,New York Times, 2020.

(本文由教育部補助「AI報報─AI科普推廣計畫」執行團隊編譯)

views