【探索22-3】計算帶我上雲端，隱私全部看光光？！

講者｜交通大學智慧科學暨綠能學院副教授 魏澤人
彙整撰文｜鄭兆庭

●網路與世界的矛盾衝突：當深度學習、雲端共享對上隱私

魏老師於演講一開始即直言，我們正處在一個矛盾加劇的年代。過往，或許每個人有些矛盾的需求，或不同人之間持相反意見，但是在現今隱密性低、傳播力強的網路時代，由於人與人之間意見加速的碰撞，而有加深各個層面矛盾的趨勢。

這幾年隨著軟體、硬體、網路的進步，「深度學習」等蒐集資料的技術也不斷進步。各種商業模式試圖從資料中獲取有用的資訊，舉凡消費行為、社群網路的廣告，都是利用深度學習技術努力找出常理無法辨識的關聯性。再來，「雲端和共享」的普及，使得網路影響真實世界的威力大增。網路地圖導航、外送服務、汽機車共享、住宿共享、影片共享都改變了我們在現實生活中的行為。

整體而言，深度學習和雲端共享兩項科技需要互相配合，更能展現其優勢。不過，這兩種渴求資料的科技卻又跟「隱私」互相矛盾。從前人們認為隱私是知名人物的特權，現在則是人人都在意隱私的時代。魏老師認為網路時代裡，「人肉搜索」、「拍照爆料」等得知他人隱私的管道越來越多、暴露隱私所造成的破壞威力也越來越強，是轉變大眾隱私觀念的關鍵。資料和隱私的衝突，可以見於開放政府資料的行動中，一方面我們需要政府資料來達到公開透明或研究目的，另一方面我們卻又在意其中的隱私保護。面對這類處理資料會遇到的難題，我們有哪些解決方法？

●去識別化及其破解法

一般常見的作法稱為「去識別化」（de-identification）。去識別化又可以區分為「擬匿名化」（pseudonymization）和「K匿名化」（K-anonymization）兩類作法。首先，擬匿名化是透過去除姓名等真實ID的方式來保護隱私。例如，高速公路電子收費ETC系統，會將車牌號碼抽換為另一組代碼，以保障使用者移動資料的隱私。而K匿名化則是指，對資料進行特定條件的搜尋，鎖定至少K個人的結果，如此一來這些資料便無法特定出某一個人，所以有保護特定人隱私的效果。地理統計上常使用「最小統計區」的概念，假設資料顯示此區共有15人，平均收入500萬元，則無法單從這份資料得知每個人的收入各為多少。

不過，若是認為去識別化的資料就能保障隱私，那實在太天真了。再利用前面的假設狀況，其實這15人的資料，我們仍可以利用其他方法再縮小範圍，以特定個人資料。這類破解法就是所謂的「去去識別化」（re-identification）。以下，魏老師透過幾個實例，讓大家了解去去識別化的運用方法。

90年代美國的GIC醫療紀錄，再消去姓名、住址、社會安全號碼後，釋出作保險用途。破解者僅以20美金購得選舉註冊資料，再從其中的郵遞區號、出生、性別等資料跟前述醫療紀錄加以比對，成功的再次識別特定人的醫療紀錄。美國網路搜尋公司AOL也曾釋放出經去識別化搜尋紀錄供研究使用，兩位記者利用搜尋資料本身的內容比對，即成功特定出某位使用者的身份。另外，去識別化的手機通話紀錄、基因體資料均曾被破解。

●以密碼學保障隱私

密碼學上「零知識」（zero-knowledge）的概念，即是在保護資訊不外洩。零知識就是一種通訊協定，A能在外人無法得知的條件下，向B證明某件事情，不過B卻無法學習到任何資訊，雖然保護了隱私，卻無法利用在深度學習上。因此，我們需要在密碼學上重新定義隱私，以平衡資料利用和隱私的衝突。

現在常見的作法是在資料中加入隨機的雜訊，例如「差分隱私」（differential privacy）。白話來說，看過這筆加入雜訊的資料後，對某個人資訊的了解不會增加，如此便有保障隱私的效果，卻又能從中獲得有用的資訊。在機器學習上，亦其他隱私保護技術如「梯度下降法（Tensorflow privacy）」、「PATE」等。除此之外，有另一種作法是不將原始資料上傳到雲端運算，而是在個人裝置上先算出一個模型，再上傳到雲端平均得出最後的模型。輸入法的熱門字詞功能，就是運用此「分散式計算」的方法。

但是，分散式計算仍有被破解的風險，因此又出現了「分散式安全計算」的運算技術。魏老師打了個比方：核子彈的密碼分散在十個人手中，只有當任八、九個人同意時，才能發射核子彈。這項技術的核心概念是「秘密分享」，以數學模型表示的話，可以把個別掌握的資料看作是一個點，則需要三個點才能決定一條拋物線（即秘密）。換言之，個別資訊無法得知秘密，即便其中兩人合謀不軌也無法取得。演講尾聲，魏老師以撲克牌做秘密計算的實際演練，讓聽眾了解此運算的奧秘。然囿於文字描述有其極限，請有興趣的讀者直接參考現場錄影。

有了以上這些神奇方法，我們得以保有隱私，又能讓雲端網路計算幫我們做事。

--
本文整理自：108/10/19由魏澤人老師在臺大思亮館國際會議廳所主講之「計算帶我上雲端，隱私全部看光光？！」演講內容。