關於「演算法」 你應該知道的事

關於「演算法」 你應該知道的事

編譯/劉大維

到底什麼是「演算法」?

2020年底,美國史丹佛大學醫學中心按照聯邦政府的指引,分配疫苗的優先接種對象。結果卻搞了個大烏龍:5,000支疫苗,多被分配給了高階管理階層,第一線醫護人員的名額只有7名,佔0.1%。史丹佛宣稱當初曾諮詢過許多倫理學家,共同研擬出一套「非常複雜的演算法」,但「表現不如預期」。

看到這,你是否以為史丹佛打造了一個AI決策系統,以更公平、有效地分配有限的醫療資源?然而事件中,史丹佛實際使用的不過是一個類似決策樹(decision tree)的SOP,好讓委員會可以依循。知名電腦科學家楊立昆直批:這是哪門子的演算法?應該只是某人自己打好的一份Excel表單吧!

當人們越來越依靠AI的意見來決定諸如企業人員聘僱、罪犯假釋申請、對弱勢族群的補助審查時,各國政府紛紛意識到監管這項科技的重要性。歐盟的《AI白皮書》更明確規範:AI必須公平對待所有個體,不因性別、種族、經濟條件等因素而有差別待遇。同時,AI做出的決策在違反社會利益的情況下,必須接受個體的質疑,因此系統的演算法必須具備「可解釋性」,使決策過程透明並可穩定地重複再現。紐約大學教授Gary Marcus也在一份報告中指出:我們不能一廂情願地期待那些運用AI的企業能夠自我規範,因為企業利益顯然時常與社會利益相衝突,所以第三方的介入、監管實屬必要。

然而當政府開始介入,立法要求強制審查這類演算法時,到底什麼是「演算法」?如何明確定義它?又該如何審查?便成為不可迴避的難題。

如果你翻開教科書,或許會看到這樣的定義:

演算法是一套明確定義操作步驟與程序的規則。
An algorithm is a set of rules that precisely define a sequence of operations.

在這個廣義的定義下,一份食譜也可以說是一個「演算法」,但絕非各國希望立法規範的標的。

在統計學或機器學習的領域,「演算法」通常是指:一套給電腦的指令(instructions),於是電腦可以從資料(data)中學習。而電腦按演算法而學到的資訊(information),則被稱為「模型」(model),具體以「權重」(weights)的形式呈現。

反觀在其他領域,例如前述的史丹佛案例中,所謂的「演算法」顯得寬容許多:它依然反映了輸入(input,個體的年紀、任職單位等)與輸出(output,接種順序)的對應關係,但得到的是質性結果(是否應優先接種),而非系統可量化的最佳解。

按照語境的不同,所謂的「演算法」也有微妙的差異。想要得到一個放諸四海皆準的定義,並不容易。然而,既然一開始的立法宗旨是為了確保演算法的公平性,我們不妨換個角度思考,著重在「演算法」潛在的效果與影響,而非面紅耳赤地爭論到底什麼是「演算法」。因為無論是一份食譜、史丹佛的疫苗接種名單或人工神經網路,我們真正在乎的是那些受到演算法結果影響的人。

編譯來源

(本文由教育部補助「AI報報─AI科普推廣計畫」執行團隊編譯)

(Visited 1 times, 1 visits today)
views