面對AI詐騙，需要更聰明的防範措施
人工智慧科技的發展為各行各業帶來嶄新的視野，當然，對於某些「特殊產業」也是如此。隨著生成式AI—ChatGPT橫空出世，詐騙手法也更朝迭代，花樣百出。可怕的是，新一代的詐騙手法不再像過往，為了降低成本所以千篇一律，且漏洞百出，而是可以為每個潛在受害者「量身打造」陷阱。此外，現在人越來越依賴網路評論，因此不少商家也出資聘僱「網軍」洗好評。過去這些網軍所洗的評論可以容易地被偵查並清除，但AI技術的發展讓這些評論越來越「人性化」，如何偵查與製造這些虛假評論成為兩方立場的重要博弈。
撰文｜謝達文
面對AI的發展越來越進步，使用完美的文法、合宜的禮節產出文字，甚至可以模仿各種語調、聲音，假造各種影像，而且成本越來越低，也有越來越多人擔心AI可能被用詐騙、造假技術之上。
上一代的詐騙，可能有許多漏洞可供辨識，比如電話那頭哭訴被綁架的人，聲音可能根本不像你的小孩；或者，常見的詐騙簡訊如「Hi 我是元大的XXX，有急事找你，麻煩加一下LINE ID」、「突然消失這麼久不聯絡是怎樣？加下我Line」，基於成本的考量，通常也只是這種罐頭式、漏洞百出的萬用句型。同理，上一代的造假影音，若要高品質，經常需要較高的成本投注在修圖、剪接之上，要不然經常都是以品質低劣的影音充數。
但是，在AI的時代，詐騙、造假者可以用很低的成本，製造出更能令人信服的虛偽資訊，這也引起不同領域的人們相當擔心，開始構思各種防範策略。
造假訊息更真實
根據美國政府統計，2022年，美國全國民眾被詐騙的金額總計高達88億美金（超過2600億台幣，值得補充的是，這個數字可能是嚴重低報的結果，因為許多詐騙案件並未報案），而且許多被騙的人都是年輕人，並非如刻板印象認為，都是以老人為主。與2021年相比，詐騙的總金額增加了19% (Croll, 2023)。
而之所以會增加將近兩成之多，專家認為與AI的興起脫不了關係。在一些案件中，詐騙集團開始用ChatGPT生成詐騙信，在用詞、語調上更為精準，更可以快速生成多個版本，因此更為可信，更能打中潛在被害人。
英國的金融監理單位也警告，在AI的時代，虛假訊息干擾金融市場的風險更高。金融監理單位的首長Nikhil Rathi在公開演講中舉了兩個例子：投機份子用AI製圖，發布美國國防部五角大廈被轟炸的照片，試圖干擾市場，以從短線獲利；也有詐騙集團用AI合成影片，假冒英國著名「財務達人」Martin Lewis推薦投資方案 (Financial Conduct Authority, 2023；Jolly, 2023)。
這兩個手段其實都不是新招，但過去不肖人士要生成仿真的五角大廈轟炸照片，相對比較困難。而「名人推薦飆股」的招數，有在使用社群網路的人也都不會陌生，但是詐騙集團過去通常只能使用名人照片製作圖文，而現在，他們可以讓電腦合成名人的語音和表情，彷彿是這位名人自己拍攝影片，能騙到人的機率也就因此大增。
在此之外，Nikhil Rathi也警告，AI將使得「盜用身分」更為容易，除了直接詐騙之外，不肖人士更有可能利用網路釣魚等方式，竊取民眾個資，進而盜用民眾的財產。
對此，各國的監理單位還沒有找到特別有效的防範策略，除了提醒民眾當心之外，英國金融監理單位也提醒各銀行、券商，公司對於自己提供的服務、販賣的產品仍負有最終責任，因此必須採取措施，避免自己的客戶被詐騙。比如，銀行就應該採取更嚴謹的身分核實措施，防止自家客戶因為身分被盜用，存款也被提領一空。
造假評論難以偵測
另一個生成式AI可能帶來問題的領域，是現在許多消費者都仰賴的「網路評論」，比如Google地圖上的商家評論，或是TripAdvisor上的飯店評論。
在過去，商家當然也可以委託其他人幫忙「洗」出好評價（甚至是去影響競爭對手所獲得的評價）。這種委託跟名人使用「網軍」的邏輯很像，經常是低薪的真人快速產出。而這些評價通常很容易偵測──這是因為，這類評價經常使用浮誇的形容詞、極少的具體描述，而且由於這種低薪工作通常不會吸引英語系國家民眾應徵，也就是說，「寫手」的母語經常不是英文，所以往往英文文法錯誤極多。
ChatGPT這類的生成式AI，正好幫商家解決了這個問題。現在，旅館業者可以用極低的成本，要ChatGPT用各種不同的口吻寫出各種評論，並且要求不同貼文各自提及旅館的不同具體特色──這一篇提到位置，下一篇提到衛浴設備等等。
英國《衛報》 (The Guardian) 的記者實測ChatGPT，發現系統雖然剛開始會拒絕造假，但只要「詠唱」稍微用一些技巧，ChatGPT還是可以生成完全符合TripAdvisor格式、難以識破的評價，而且不論是要給正面或負面評價都行得通，還可以模仿商務客、出遊家庭，甚或「同志情侶房客」的口吻 (Collinson, 2023)。
面對這樣的挑戰，TripAdvisor的年度《2023年評價透明化報告》(Review Transparency Report, 2023) 就明確承認，AI將為他們帶來挑戰，他們預期會有更多商家跟個人濫用AI產出評價 (TripAdvisor, 2023)。根據他們的說法，他們今年已經移除了超過兩萬則疑似由AI生成的評論。
對此，他們只能說會持續精進他們的偵測系統，使用各種（必須保密的）標準審查評論，不能只看評論文字本身，而必須要考慮張貼帳號的其他資訊──隨著AI科技的持續進展，不同領域的人們都必須構思更好、更聰明的防弊措施。
參考文獻
- Dylan Croll, 2023, “AI is making financial scams harder to detect.”, Yahoo News.
- Financial Conduct Authority, 2023, “Our emerging regulatory approach to Big Tech and Artificial Intelligence.”
- Jasper Jolly, 2023, “Financial firms must boost protections against AI scams, UK regulator to warn.”, The Guardian.
- Patrick Collinson, 2023, “Fake reviews: can we trust what we read online as use of AI explodes?”, The Guardian.
- TripAdvisor, 2023, “TripAdvisor Review Transparency Report 2023.”
📖 延伸閱讀：《選戰中可能的AI濫用》、《歐盟AI管制新進展：全面禁止人臉辨識？》