歐盟AI管制新進展:全面禁止人臉辨識?

分享至

歐盟議會通過全球第一部完整管制AI的法律,其中全面禁止人臉辨識於公共場合的即時使用,除了隱私權、種族平等的考量之外,許多議員也認為這樣的大規模監控逾越了民主國家的底線。

撰文|謝達文

來源:MotionElements

2023年6月14日,歐盟議會以499票贊成、28票反對、93票棄權的懸殊票數,高票通過全球第一部完整管制AI的法律。外界普遍預期,這樣的法律將會有設定產業標準的效果──這是因為,對於絕大多數的AI開發者而言,歐盟都是重要的市場,一旦歐盟設定好管制標準,各家公司在開發時就有很大的動機遵循這些標準,以免在歐盟商用受阻;更何況,國際間標準設定會互相影響,歐盟率先訂定標準之後,其他國家在立法時也會參考,更會增加這些規則的影響力。

而在這一次的歐盟法制定中,一個爭議較大的主題,就是關於AI是否可以用於人臉辨識(或更廣泛來說,各種生物特徵辨識)之上,這個主題預計仍會持續辯論下去。在這次歐盟議會所通過的法律案中,歐盟議員們決定全面禁止在公共場合「即時的人臉辨識」 (O’Carroll, 2023 ; Volpicelli, 2023)。也就是說,按照這部新法律,歐盟各國的警察機關和其他單位不可以用AI對即時的監控影像進行人臉辨識,沒有任何除外條件;在此之外,雇主也不可以使用近期被討論的「人臉情緒監控」,不可以用AI監控自己的工人是否有疲倦、怠職等狀況(中國目前已經開始使用這項技術監控卡車司機是否疲倦)。而既然這項技術可能在歐盟被全面禁止應用,開發商開發相關功能的誘因也會大幅減少,可能會轉而投資其他應用。

之所以只說是「可能」被全面禁止應用,而非確定,是因為根據歐盟的制度,在歐盟議會通過法律之後,還需要經由議會、執委會(相當於歐盟本身的政府)和歐盟理事會(各國政府的代表)三方協商對話,而執委會本來所提出的法案草案當中,雖然也嚴格限制即時使用人臉辨識,但其實有提出一些除外條件可以使用;此外,一些歐盟國家政府也已經開始研議AI用於即時人臉辨識,比如法國政府就已經通過法律,要在2024年巴黎奧運使用即時人臉辨識執行安全監控。這意味著,這項規定是否能存活,在後續的協商中仍有變數。

 

「這是中國在做的事,不是我們會做的」

為什麼歐盟那麼多議員堅決反對人臉辨識的使用?除了隱私權的爭議之外,在議會辯論中,議員們也提到人臉辨識可能帶來更多的不公平,造成實質上的種族歧視(《預測準確就好了嗎?談人工智慧的不公平》,謝達文,2023)──英文中有一個專門的詞稱為racial profiling,中文有時翻譯為種族貌相或種族定性,就是用來指稱基於種族的差別執法,議員們相當擔心允許使用人臉辨識會導致這個狀況更為嚴重。

但除此之外,從議員們的發言中也可以發現,許多議員認為,將AI人臉辨識用於即時監控影像,實在太過像是反民主威權國家的行徑。歐洲議會有所謂報告人 (rapporteur) 的制度,議會會指派幾位議員主導法案的審議與協商,而一位報告人、來自羅馬尼亞的自由派議員Dragoș Tudorache就說:「在歐盟的我們,不要大規模監控、不要社會信用分數、不要預測性執法,就是這樣──這是中國在做的事,不是我們會做的。」(Deutsche Welle, 2023) 從這個發言中我們可以清楚看出,中國在國內、特別是在新疆所進行的AI人臉辨識等監控,已經大幅影響歐盟政治人物對於「紅線」的認知,認為這樣的作法「不是我們會做的」事情(對於中國如何在新疆利用AI等技術進行監控,可參考最近出版的《新疆再教育營:中國的高科技流放地》一書,Byler,2023)。

 

除外條件規定遭到否決

在這條規則在立法的過程中,一度出現一個變數。代表歐洲中間偏右政黨的歐洲人民黨 (European People's Party, EPP) 雖然大體上支持這項法律,但卻提出修正案,希望設定例外可以使用AI於即時人臉辨識的三個條件:協尋失蹤人口、防止恐怖攻擊,以及偵測有歐盟逮捕令在身的人 (Liboreiro and Sanchez Alonso, 2023)。

本法案的另一位報告人、左派政黨的議員Brando Benifei公開指責EPP在進行「政治操作」,指出EPP在委員會階段明明支持這一項規定,但在最終表決時卻另外提出法案,是不尊重協議的作為。

不論如何,最終EPP無功而返:這項修正案獲得235票支持,但有335票反對,並未獲得通過。而在修正案失利後,EPP黨團仍然集體支持法律案本身。這樣的結果將讓議會之後在與歐盟執委會和理事會協商時,可以站在更有力的位置,可以要求另外兩個單位更尊重議會的決議,繼續採用較嚴格的標準面對人臉辨識的應用。

 


參考文獻

  1. Lisa O’Carroll, 2023, “EU moves closer to passing one of world’s first laws governing AI.”, The Guardian.
  2. Gian Volpicelli, 2023, “Forget ChatGPT: Facial recognition emerges as AI rulebook’s make-or-break issue.”, Politico.
  3. 謝達文,《預測準確就好了嗎?談人工智慧的不公平》,2023,CASE 報科學
  4. Deutsche Welle, 2023, “EU lawmakers lay groundwork for 'historic' AI regulation.”
  5. Darren Byler著,閻紀宇譯,《新疆再教育營:中國的高科技流放地》,2023,春山出版。
  6. Jorge Liboreiro & Aida Sanchez Alonso, 2023, “MEPs endorse blanket ban on live facial recognition in public spaces, rejecting targeted exemptions.”, Euronews.

📖 延伸閱讀:《預測準確就好了嗎?談人工智慧的不公平》、《AI管制的可能模式——內部程序、外部審計、公平交易

(Visited 176 times, 3 visits today)

分享至
views