選戰中可能的AI濫用

分享至

現在AI技術日漸發達,不僅可以模仿出某個人的聲音編造謠言,還可以非常簡單且快速地產生各種情境模擬圖、廣告,甚至還可以藉由追蹤網路足跡,為每個選民量身打造「為你而生」的專屬競選廣告。這些廣告不僅以假亂真,更可怕的是招招刺中你心,不想被影響都很難。為了防止未來的選戰陷入全面的人工智慧應用戰爭,許多人已經開始在討論選中的AI應用是否應該受到管制。有些專家甚至擔心,現在才開始討論管制,已經有些遲了!

撰文|謝達文

來源:MotionElements

想像你是一位中間選民,很在乎環保議題,市長選舉前一週,你在社群媒體上看到一支影片,當中的人聲酷似其中一位市長候選人;你聽到他用堅決的語氣,說環保議題根本不重要,如果他當市長絕對會大幅刪減環保預算。在現有的AI科技下,要仿造一個人的聲線、語調,已經是能夠做到的事情。一直以來,我們擔心選前的惡意造謠,而現在,在AI的輔助之下,謠言可以取得前所未有的說服力。

除了仿造人聲、製作假影片之外,AI還可以根據每一個使用者的網路足跡,微調政治廣告的內容──你看到的影片談的是環保,別人看到的可能是動物保護或是兒童福利,而且用詞、語調也都可以個別微調。在幾年前,選戰團隊也可以針對不同人投放不同廣告,但他們仍必須自行手動製作多支廣告的內容,再依照網路足跡(通常是社群媒體上的網路足跡),決定要給哪群人看哪一支廣告;但是現在有了AI的支援之下,選戰團隊不再需要手動製作不同版本的廣告,而可以讓AI自行調整各種主題、調性、用詞。

在這個背景下,許多人開始討論選戰中的AI管制問題──有些專家甚至擔心,現在才開始討論管制,是否已經有些遲了。

 

只是「示意圖」?

到目前為止,文章開頭提到用語音方式「栽贓」,似乎還並不常見。這幾個月來,選戰中最為常見的,是用AI來製作「情境示意圖」。比如在加拿大多倫多,有市長候選人團隊用AI生成了一張「市中心滿是無家者」的圖像,藉以攻擊對手的政策;在紐西蘭,右翼的反對黨在Instagram上發文攻擊國內治安不佳,也用AI生成了一幅圖像,圖中是一群持槍搶匪搶劫珠寶店 (Hsu & Myers, 2023)。在這兩個例子當中,AI都不是真的用來栽贓、宣稱「事實如此」,而是用來生成「示意圖」,讓政治廣告在視覺上更有情緒渲染的能力。

最有名的例子發生在今年4月,美國共和黨釋出了一則三十秒的影片,影片放入了多張AI生成的「新聞」影像,主題包含戰爭、毒品犯罪「失控」、經濟危機,宣稱這是民主黨拜登 (Joe Biden) 總統連任之後可能發生的景況 (Hsu, 2023)。共和黨有在影片左上角以小字附註「圖像完全由AI生成」,而且影片的上下文應該足以判斷是「預測未來」的狀況,但這已經引發一些人擔心:萬一選戰團隊再更不負責任一些,不但不附註,甚至還在影片上下文中宣稱這是「已經發生」的事情,對於選戰將有相當負面的影響。

到目前為止,最接近「造謠」而非「示意」的案例,可能來自美國共和黨的明日之星、佛羅里達州州長德桑蒂斯 (Ron DeSantis) 的競選團隊。由於美國共和黨的基層群眾當中有許多人對於防疫政策不滿,德桑蒂斯便在初選期間釋出了一則競選廣告影片,打擊同黨的前任總統川普 (Donald J. Trump) 當時主導的防疫政策,其中有幾張照片,呈現川普與防疫指揮官佛奇 (Dr. Anthony S. Fauci) 相擁、親吻。這些情境在現實中從未出現過,極可能是用AI生成的假照片。面對記者詢問,德桑蒂斯辦公室並未正式回應,只表示這些照片顯然是假的,不過跟網路上的迷因沒有兩樣 (Nehamas, 2023)。這樣的照片就算競選團隊真的沒有造謠的意圖,也很可能真的有以假亂真的效果,讓人誤以為川普真的跟佛奇走得很近(兩人的關係實際上相當緊張),可能是目前在光譜上最接近「造謠」一端的案例之一。

 

如何管制?

對於如何管制,英國的中選會官員日前拋出一個可能的管制方向,是要求各政黨揭露自己在AI上的花費;另外,也有可能要求所有運用AI的政治文宣都必須打上浮水印,清楚揭露該項文宣是以AI生成 (Quinn and Milmo, 2023)。在同樣的精神下,法規也可以要求網路上的「AI機器人」,不論是臉書、推特,還是其他網路平臺上,都必須清楚揭露訊息並非來自真人,而是由AI生成。這些管制背後的思維,都是將選舉管制的常見工具直接應用到AI的管制上,比如在美國,現行的選舉法規就規定,競選廣告的最後必須明確指出出資者。

另外,對於AI可能生成數以百萬計的「個人化」廣告,也有專家建議,應該增進網路使用者的隱私權保護,降低AI所可以運用的「資料」,不讓機器可以取得人們那麼多網路足跡,藉以降低個人化廣告的威力 (Fung and Lessig, 2023)。

這些管制背後,都有可能牽涉到一個更根本的憲法問題:AI生成的政治訊息,在憲法上所受到的言論自由保障,是否與完全由人類生成的言論相同?是否只有當AI反映某個「個人」的言論(比如是由人類精準「詠唱」產生,或者事後有人類高度剪裁編輯)才算?還是只由AI生成的「言論」也就算是言論,尤其只要有選戰陣營使用,就受到言論自由保障(而且還是受到高度保障的「政治性言論」)?舉例來說,如果是AI自動生成言論而成為「網軍」,在新聞下或臉書社團內留言,是否受到憲法上的言論自由保護?這也是目前法學界熱烈辯論的議題 (Fung and Lessig, 2023),未來也可能影響管制的走向。

 


參考文獻

  1. Hsu, Tiffany and Steven Lee Myers, 2023, “A.I.’s Use in Elections Sets Off a Scramble for Guardrails.”, The New York Times.
  2. Hsu, Tiffany, 2023, “In an anti-Biden ad, Republicans use A.I. to depict a dystopian future.” The New York Times.
  3. Nehamas, Nicholas, 2023, “DeSantis Campaign Uses Apparently Fake Images to Attack Trump on Twitter.”, The New York Times.
  4. Quinn, Ben and Dan Milmo, 2023, “Time running out for UK electoral system to keep up with AI, say regulators.”, The Guardian.
  5. Fung, Archon and Lawrence Lessig, 2023, “How AI could take over elections – and undermine democracy.”, The Conversation.

 


📖 延伸閱讀:《歐盟AI管制新進展:全面禁止人臉辨識?》、《AI管制的可能模式——內部程序、外部審計、公平交易

(Visited 71 times, 1 visits today)

分享至
views