面對AI詐騙,需要更聰明的防範措施

分享至

人工智慧科技的發展為各行各業帶來嶄新的視野,當然,對於某些「特殊產業」也是如此。隨著生成式AI—ChatGPT橫空出世,詐騙手法也更朝迭代,花樣百出。可怕的是,新一代的詐騙手法不再像過往,為了降低成本所以千篇一律,且漏洞百出,而是可以為每個潛在受害者「量身打造」陷阱。此外,現在人越來越依賴網路評論,因此不少商家也出資聘僱「網軍」洗好評。過去這些網軍所洗的評論可以容易地被偵查並清除,但AI技術的發展讓這些評論越來越「人性化」,如何偵查與製造這些虛假評論成為兩方立場的重要博弈。

撰文|謝達文

面對AI的發展越來越進步,使用完美的文法、合宜的禮節產出文字,甚至可以模仿各種語調、聲音,假造各種影像,而且成本越來越低,也有越來越多人擔心AI可能被用詐騙、造假技術之上。

上一代的詐騙,可能有許多漏洞可供辨識,比如電話那頭哭訴被綁架的人,聲音可能根本不像你的小孩;或者,常見的詐騙簡訊如「Hi 我是元大的XXX,有急事找你,麻煩加一下LINE ID」、「突然消失這麼久不聯絡是怎樣?加下我Line」,基於成本的考量,通常也只是這種罐頭式、漏洞百出的萬用句型。同理,上一代的造假影音,若要高品質,經常需要較高的成本投注在修圖、剪接之上,要不然經常都是以品質低劣的影音充數。

但是,在AI的時代,詐騙、造假者可以用很低的成本,製造出更能令人信服的虛偽資訊,這也引起不同領域的人們相當擔心,開始構思各種防範策略。

來源:MotionElements

 

造假訊息更真實

根據美國政府統計,2022年,美國全國民眾被詐騙的金額總計高達88億美金(超過2600億台幣,值得補充的是,這個數字可能是嚴重低報的結果,因為許多詐騙案件並未報案),而且許多被騙的人都是年輕人,並非如刻板印象認為,都是以老人為主。與2021年相比,詐騙的總金額增加了19% (Croll, 2023)。

而之所以會增加將近兩成之多,專家認為與AI的興起脫不了關係。在一些案件中,詐騙集團開始用ChatGPT生成詐騙信,在用詞、語調上更為精準,更可以快速生成多個版本,因此更為可信,更能打中潛在被害人。

英國的金融監理單位也警告,在AI的時代,虛假訊息干擾金融市場的風險更高。金融監理單位的首長Nikhil Rathi在公開演講中舉了兩個例子:投機份子用AI製圖,發布美國國防部五角大廈被轟炸的照片,試圖干擾市場,以從短線獲利;也有詐騙集團用AI合成影片,假冒英國著名「財務達人」Martin Lewis推薦投資方案 (Financial Conduct Authority, 2023;Jolly, 2023)。

這兩個手段其實都不是新招,但過去不肖人士要生成仿真的五角大廈轟炸照片,相對比較困難。而「名人推薦飆股」的招數,有在使用社群網路的人也都不會陌生,但是詐騙集團過去通常只能使用名人照片製作圖文,而現在,他們可以讓電腦合成名人的語音和表情,彷彿是這位名人自己拍攝影片,能騙到人的機率也就因此大增。

在此之外,Nikhil Rathi也警告,AI將使得「盜用身分」更為容易,除了直接詐騙之外,不肖人士更有可能利用網路釣魚等方式,竊取民眾個資,進而盜用民眾的財產。

對此,各國的監理單位還沒有找到特別有效的防範策略,除了提醒民眾當心之外,英國金融監理單位也提醒各銀行、券商,公司對於自己提供的服務、販賣的產品仍負有最終責任,因此必須採取措施,避免自己的客戶被詐騙。比如,銀行就應該採取更嚴謹的身分核實措施,防止自家客戶因為身分被盜用,存款也被提領一空。

 

造假評論難以偵測

另一個生成式AI可能帶來問題的領域,是現在許多消費者都仰賴的「網路評論」,比如Google地圖上的商家評論,或是TripAdvisor上的飯店評論。

在過去,商家當然也可以委託其他人幫忙「洗」出好評價(甚至是去影響競爭對手所獲得的評價)。這種委託跟名人使用「網軍」的邏輯很像,經常是低薪的真人快速產出。而這些評價通常很容易偵測──這是因為,這類評價經常使用浮誇的形容詞、極少的具體描述,而且由於這種低薪工作通常不會吸引英語系國家民眾應徵,也就是說,「寫手」的母語經常不是英文,所以往往英文文法錯誤極多。

ChatGPT這類的生成式AI,正好幫商家解決了這個問題。現在,旅館業者可以用極低的成本,要ChatGPT用各種不同的口吻寫出各種評論,並且要求不同貼文各自提及旅館的不同具體特色──這一篇提到位置,下一篇提到衛浴設備等等。

英國《衛報》 (The Guardian) 的記者實測ChatGPT,發現系統雖然剛開始會拒絕造假,但只要「詠唱」稍微用一些技巧,ChatGPT還是可以生成完全符合TripAdvisor格式、難以識破的評價,而且不論是要給正面或負面評價都行得通,還可以模仿商務客、出遊家庭,甚或「同志情侶房客」的口吻 (Collinson, 2023)。

面對這樣的挑戰,TripAdvisor的年度《2023年評價透明化報告》(Review Transparency Report, 2023) 就明確承認,AI將為他們帶來挑戰,他們預期會有更多商家跟個人濫用AI產出評價 (TripAdvisor, 2023)。根據他們的說法,他們今年已經移除了超過兩萬則疑似由AI生成的評論。

對此,他們只能說會持續精進他們的偵測系統,使用各種(必須保密的)標準審查評論,不能只看評論文字本身,而必須要考慮張貼帳號的其他資訊──隨著AI科技的持續進展,不同領域的人們都必須構思更好、更聰明的防弊措施。

 


參考文獻

  1. Dylan Croll, 2023, “AI is making financial scams harder to detect.”, Yahoo News.
  2. Financial Conduct Authority, 2023, “Our emerging regulatory approach to Big Tech and Artificial Intelligence.”
  3. Jasper Jolly, 2023, “Financial firms must boost protections against AI scams, UK regulator to warn.”, The Guardian.
  4. Patrick Collinson, 2023, “Fake reviews: can we trust what we read online as use of AI explodes?”, The Guardian.
  5. TripAdvisor, 2023, “TripAdvisor Review Transparency Report 2023.”

 


📖 延伸閱讀:《選戰中可能的AI濫用》、《歐盟AI管制新進展:全面禁止人臉辨識?

(Visited 203 times, 1 visits today)

分享至
views