歐盟AI管制新進展：全面禁止人臉辨識？
歐盟議會通過全球第一部完整管制AI的法律，其中全面禁止人臉辨識於公共場合的即時使用，除了隱私權、種族平等的考量之外，許多議員也認為這樣的大規模監控逾越了民主國家的底線。
撰文｜謝達文
2023年6月14日，歐盟議會以499票贊成、28票反對、93票棄權的懸殊票數，高票通過全球第一部完整管制AI的法律。外界普遍預期，這樣的法律將會有設定產業標準的效果──這是因為，對於絕大多數的AI開發者而言，歐盟都是重要的市場，一旦歐盟設定好管制標準，各家公司在開發時就有很大的動機遵循這些標準，以免在歐盟商用受阻；更何況，國際間標準設定會互相影響，歐盟率先訂定標準之後，其他國家在立法時也會參考，更會增加這些規則的影響力。
而在這一次的歐盟法制定中，一個爭議較大的主題，就是關於AI是否可以用於人臉辨識（或更廣泛來說，各種生物特徵辨識）之上，這個主題預計仍會持續辯論下去。在這次歐盟議會所通過的法律案中，歐盟議員們決定全面禁止在公共場合「即時的人臉辨識」 (O’Carroll, 2023 ; Volpicelli, 2023)。也就是說，按照這部新法律，歐盟各國的警察機關和其他單位不可以用AI對即時的監控影像進行人臉辨識，沒有任何除外條件；在此之外，雇主也不可以使用近期被討論的「人臉情緒監控」，不可以用AI監控自己的工人是否有疲倦、怠職等狀況（中國目前已經開始使用這項技術監控卡車司機是否疲倦）。而既然這項技術可能在歐盟被全面禁止應用，開發商開發相關功能的誘因也會大幅減少，可能會轉而投資其他應用。
之所以只說是「可能」被全面禁止應用，而非確定，是因為根據歐盟的制度，在歐盟議會通過法律之後，還需要經由議會、執委會（相當於歐盟本身的政府）和歐盟理事會（各國政府的代表）三方協商對話，而執委會本來所提出的法案草案當中，雖然也嚴格限制即時使用人臉辨識，但其實有提出一些除外條件可以使用；此外，一些歐盟國家政府也已經開始研議AI用於即時人臉辨識，比如法國政府就已經通過法律，要在2024年巴黎奧運使用即時人臉辨識執行安全監控。這意味著，這項規定是否能存活，在後續的協商中仍有變數。
「這是中國在做的事，不是我們會做的」
為什麼歐盟那麼多議員堅決反對人臉辨識的使用？除了隱私權的爭議之外，在議會辯論中，議員們也提到人臉辨識可能帶來更多的不公平，造成實質上的種族歧視（《預測準確就好了嗎？談人工智慧的不公平》，謝達文，2023）──英文中有一個專門的詞稱為racial profiling，中文有時翻譯為種族貌相或種族定性，就是用來指稱基於種族的差別執法，議員們相當擔心允許使用人臉辨識會導致這個狀況更為嚴重。
但除此之外，從議員們的發言中也可以發現，許多議員認為，將AI人臉辨識用於即時監控影像，實在太過像是反民主威權國家的行徑。歐洲議會有所謂報告人 (rapporteur) 的制度，議會會指派幾位議員主導法案的審議與協商，而一位報告人、來自羅馬尼亞的自由派議員Dragoș Tudorache就說：「在歐盟的我們，不要大規模監控、不要社會信用分數、不要預測性執法，就是這樣──這是中國在做的事，不是我們會做的。」(Deutsche Welle, 2023) 從這個發言中我們可以清楚看出，中國在國內、特別是在新疆所進行的AI人臉辨識等監控，已經大幅影響歐盟政治人物對於「紅線」的認知，認為這樣的作法「不是我們會做的」事情（對於中國如何在新疆利用AI等技術進行監控，可參考最近出版的《新疆再教育營：中國的高科技流放地》一書，Byler，2023）。
除外條件規定遭到否決
在這條規則在立法的過程中，一度出現一個變數。代表歐洲中間偏右政黨的歐洲人民黨 (European People's Party, EPP) 雖然大體上支持這項法律，但卻提出修正案，希望設定例外可以使用AI於即時人臉辨識的三個條件：協尋失蹤人口、防止恐怖攻擊，以及偵測有歐盟逮捕令在身的人 (Liboreiro and Sanchez Alonso, 2023)。
本法案的另一位報告人、左派政黨的議員Brando Benifei公開指責EPP在進行「政治操作」，指出EPP在委員會階段明明支持這一項規定，但在最終表決時卻另外提出法案，是不尊重協議的作為。
不論如何，最終EPP無功而返：這項修正案獲得235票支持，但有335票反對，並未獲得通過。而在修正案失利後，EPP黨團仍然集體支持法律案本身。這樣的結果將讓議會之後在與歐盟執委會和理事會協商時，可以站在更有力的位置，可以要求另外兩個單位更尊重議會的決議，繼續採用較嚴格的標準面對人臉辨識的應用。
參考文獻
- Lisa O’Carroll, 2023, “EU moves closer to passing one of world’s first laws governing AI.”, The Guardian.
- Gian Volpicelli, 2023, “Forget ChatGPT: Facial recognition emerges as AI rulebook’s make-or-break issue.”, Politico.
- 謝達文，《預測準確就好了嗎？談人工智慧的不公平》，2023，CASE 報科學
- Deutsche Welle, 2023, “EU lawmakers lay groundwork for 'historic' AI regulation.”
- Darren Byler著，閻紀宇譯，《新疆再教育營：中國的高科技流放地》，2023，春山出版。
- Jorge Liboreiro & Aida Sanchez Alonso, 2023, “MEPs endorse blanket ban on live facial recognition in public spaces, rejecting targeted exemptions.”, Euronews.
📖 延伸閱讀：《預測準確就好了嗎？談人工智慧的不公平》、《AI管制的可能模式——內部程序、外部審計、公平交易》