管制必然阻遏AI創新?對付「脫衣軟體」這樣的害群之馬,反而有助產業發展!

分享至

科技是把雙面刃,在帶給我們便捷、多彩的生活的同時,也有可能受到某些有心人士的利用,造成危害。如今的生成式AI越來越厲害,要產生各式圖片變得相當簡單,但…深偽技術也更加猖獗。曾經臺灣網紅的「換臉」事件震驚社會,而今各式「脫衣」網站、應用程式遍地開花。英國智庫成員便提出警告,呼籲政府、企業重視科技被不當濫用的情況,並應該加以管制。或許有些人會認為,「管制」將會阻遏AI創新,然而智庫團隊卻認為,適當的防範害群之馬,才能維持科技在民眾心中的正面形象,如此一來方能維持科技的持續進步。

撰文|謝達文

來源:MotionElements

「我們不可以繼續卡在舊思維當中,認為你要不就支持創新,要不就支持保護公共利益,我們不該繼續認為這件事情是『政府vs企業』。絕大多數的科技公司希望他們提供的工具是被人們用來做好事,而在這方面,科技業也知道已經出現問題──『深偽先生』不是科技業的好代表,我認為科技業會想幫忙我們才對。」

說這句話的人是克斯提.伊內斯 (Kirsty Innes),她呼籲政府不要以為管制必然會遏阻創新,尤其如果管制的目的是要幫助科技業對付「濫用深偽技術」等等害群之馬,產業界甚至可能非常願意幫忙。(Hern, 2024a、2024b)

伊內斯說的話之所以重要,是因為她過去曾經擔任英國政府主管市場監理的高階文官,現在更是Labour Together此一智庫的研究人員,領導團隊研擬對英國科技管制的政策建議。該智庫與英國工黨領導人史塔莫 (Keir Starmer) 關係緊密,提出的政策建議經常得到採納,甚至被比喻為工黨政策的外包廠商 (Marr, 2024)。而工黨現在雖然仍是在野黨,但目前民調領先幅度高達兩成,若無意外,將會在年底之前取得政權。

在這個背景下,這種思維不單單本身就值得身在臺灣(或其他國家)的讀者參考,更很有可能會影響英國新政府具體的管制政策,進而對全球造成影響──英國雖然在管制上直接的影響力比不上美國甚至歐盟,在國際規範制定方面始終無法站上領導地位,但終究仍是不少科技人才的所在地,英國科技團隊也參與許多AI工具的合作研發,加上各科技巨頭也不可能輕易放棄英國市場,英國政府的管制策略因此仍然相當重要。(關於英國對於AI管制的議題,有興趣的讀者可參考《多麼痛的領悟:英國也想制定AI規則,卻發現美國無意讓位

 

未經同意就用AI「脫人衣服」,目前已正在發生

而伊內斯的說法也並非僅僅停留在大原則的宣示,她在這段話中特別點名深偽技術,更已經在智庫帶領團隊準備出版的政策報告中,其中一項建議就將是要立法禁止所謂的裸露工具 (nudification),更通俗的講法就是脫衣 (undressing) 網站或應用程式。

裸露工具的使用方式相當簡單:使用者可以上傳人像照片,利用AI生成裸照,而要影中人擺出各種不同姿勢、或是改變背景當然更是簡單。這樣的工具現在在網路上已經開始流通,而根據網路數據公司Graphika的調查,單單2023年9月一個月之內,曾造訪脫衣網站的總人數就超過2千4百萬人,而在Twitter/X和Reddit等熱門網站上,脫衣應用程式相關的廣告也已迅速增加 (Murphy, 2024)。可想而知,必定會有許多使用者在未經當事人同意下生成各種色情圖片、影片,進而可以用於勒索恐嚇、復仇式色情(revenge porn,通常指分手後洩漏私密影片作為「報復」,或者藉此威脅對方就範)、校園霸凌等惡意行為之上。

過去市面上已經有所謂為色情影片換臉的「服務」,但生成式AI工具的技術革新使得深偽變得更逼真,而且成本更低,就連高中生都可以操作。此外,開源 (open source) 雖然有助於創新,是許多科技人相當鼓勵的作法,但確實也已經有許多裸露工具開發者得益於開源,可以在既有的、免費取得的語法之上開發他們的「產品」,大大降低開發的技術與資金需求,也是近來這類網站和軟體大幅增加的原因。

 

全面查禁之外,還要請開發者採取「合理防範」措施

對此,伊內斯的團隊建議必須全面查禁此類網站和軟體,而且要立即開始這麼做──「現在就把情況控制下來,能幫助我們避免其演變成長期的危機,一項前例就是線上詐騙,現在已經成為全英國最普遍的犯罪。」

除此之外,伊內斯的團隊還有一項主張:AI模型的開發商和伺服器提供者也必須負點責任。這些公司當然不可能全面防堵不肖人士濫用他們提供的服務,所以不能因為「結果上」出現這些濫用就懲罰他們,但在開發和營運的「過程中」,這些公司也該採取合理的防範措施,在技術上想一些辦法降低風險。對此,伊內斯的團隊也認為,未來這個模式更進一步可以套用到AI詐騙、干擾選舉等其他問題之上。

值得補充的是,這種著眼過程而非結果的管制模式並不新穎,過去常用於金融管制,而考慮到生成式模型的結果難以預測,「要求採取合理防範措施」的做法,未來也很可能成為AI管制的主流(關於AI管制的模式,有興趣的讀者請參考《AI管制的可能模式——內部程序、外部審計、公平交易

 

防範害群之馬的管制,反而是科技業的「朋友」

智庫團隊相信,科技業應該會支持這樣的管制,這份報告的共同作者之一波薩 (Laurel Boxall) 就比喻,管制在這些問題上反而是創新者的「朋友」。

為何這麼說?關鍵在於「協助科技業建立公眾信任」之上,或者至少要確保公眾的信任不致崩潰。「像是上次的A-levels演算法問題(註:疫情期間,運用演算法協助大學入學考試評分,結果反倒造成種種混亂和不公平)那樣,一次次這種『運用科技工具,結果搞砸』的案例,都已經造就『再做錯一件事,人們就會開始抱持強大敵意』的公眾態度。」也就是說,人們如果看到太多科技帶來的「傷害」,很可能會轉而不支持科技業,反而造成更大壓力。

換言之,要為AI產業打造更好的環境,政府除了投資之外,要做得其實未必是一味鬆綁,反而也該協助並要求產業界繃緊神經──害群之馬越少,越能確保公眾對於科技業的支持,反而將更有利於創新。

 


參考文獻

  1. Hern Alex, 2024, “TechScape: Could a Labour ‘nudification’ manifesto bring more safety to AI?”, The Guardian.
  2. Hern Alex, 2024, “Labour considers ‘nudification’ ban and cross-party pledge on AI deepfakes”, The Guardian.
  3. Marr Andrew, 2024, “The battle for Keir Starmer’s soul.”, The New Statesman.
  4. Murphy Margi, 2024, “‘Nudify’ Apps That Use AI to ‘Undress’ Women in Photos Are Soaring in Popularity.”, TIME.

 


✨延伸閱讀:《多麼痛的領悟:英國也想制定AI規則,卻發現美國無意讓位》、《AI管制的可能模式——內部程序、外部審計、公平交易

(Visited 328 times, 6 visits today)

分享至
views