新聞、謊言、假影片(1/4)

撰文／Brendan Borrell｜譯者／鍾樹人
轉載自《科學人》2018年11月第201期

重點提要

• 快速演進的人工智慧（AI）技術讓影音造假邁入自動化。一些專家擔心，假資訊透過社群媒體傳播，可能會對輿論和政治穩定造成嚴重的影響。
• 資訊科學家正在研究糾舉假影片的AI 偵測工具，但進展比AI 生成影片工具緩慢。在此同時，社會科學家警告，偵測假影片並不足以解決問題，我們應該合力根除假影片。
• 假新聞是2016年美國總統大選中令人擔憂的變因。研究人員指出，假影片對煽動恐懼可能特別有效，而恐懼會加速這類訊息傳播。
• 假資訊可能會腐蝕我們對所有媒體的信任，包括真實的內容。

2018年4月,網路上出現一段美國前任總統歐巴馬的新影片，背景裡有美國的國旗與總統旗，看起來就像他以前的諸多談話影片。穿著平整的白襯衫與深色西裝，歐巴馬面對攝影機，伸出雙手來強調自己說的話：「川普總統是不折不扣的笨蛋。」

沒有露出一絲笑容，他繼續說：「嘿，你們知道，我從來不說這些話，至少不會是公開演說，但其他人會。」這時畫面分割成兩半，演員皮爾（Jordan Peele）出現了，歐巴馬沒有說任何話──這段影片是融合皮爾的模仿與歐巴馬的實際演說而成。兩人並列的畫面繼續傳遞著訊息，這時皮爾就像數位時代的腹語師，把更多話假借歐巴馬的嘴說出。

在假新聞肆虐的這個年代，這段影片是BuzzFeed新聞所製作的公共服務宣導，展示了應用人工智慧（artificial intelligence, AI）新技術的應用程式，它修改影音的方式就像Photoshop處理數位影像一樣：可讓人們篡改事實。

影片還相當粗略。仔細觀看並聆聽，會發現歐巴馬的聲音帶有鼻音，他的嘴（融合了皮爾的嘴）在幾個短暫片刻會偏離中心晃動。但是這項技術（為了好萊塢電影剪輯師和電玩廠商所設計）快速進展，已讓一些國家安全專家和媒體專家想到科技黑暗面。這些工具或許有一天能憑空創造出令人信服的假影片──並非像歐巴馬的談話那般修改自既有的影片，而是精心安排且從未發生過的情節。

假影片對大眾認知與公共論述可能造成深遠的影響。例如美國今年11月舉行的期中選舉，假如勢均力敵的選戰中有一部假影片抹黑了某位政治人物，試想所造成的衝擊；或者某企業公開發行股票的前一晚，執行長遇襲；或是一群人假裝發動恐怖攻擊，欺騙新聞媒體報導，進而引發人們本能般的報復。儘管某部瘋傳的影片後來證實是假的，大眾會不會依舊相信影片內容為真？或許最令人困擾的是：如果造假成為常態，讓我們不再相信多數看到或聽到的事物，包括真相，那該怎麼辦？

很多科技專家體認到AI 生成影片技術可能大量濫用。美國史丹佛大學法律教授波西利（Nate Persily）表示，科技專家把焦點放在「偵測假影音的解決方案時，反倒很少花時間釐清這些方案是否讓人們不再相信假影片。」波西利研究的一項主題是網路如何影響民主，他和一群研究人員主張，單靠技術方面的解決方案，無法成功遏止瘋傳的假資訊（disinformation）。遏止假資訊需要心理學家、社會科學家和媒體專家共同出力，協助思索這項AI技術如何在真實世界中落實。

波西利說：「我們現在就必須做到這一點，因為科技專家此時（必然會）主導AI生成影片可能導致後果的討論。」我們對於政府和新聞業這類民主機制的信任已經減弱。既然社群媒體是假資訊的主要傳播管道，今天發佈假新聞的人更可輕易利用我們了。沒有適當的解決方案來因應漸趨成熟的技術，我們脆弱的集體信任將面臨更大的危機。(待續)

延伸閱讀：眼見不為憑：假新聞攻防戰；不會跳舞嗎？AI讓你動起來

(本文由教育部補助「AI報報─AI科普推廣計畫」取得網路轉載授權)