反事實解釋

在這逐漸自動化的世界裡，許多金融或政府機構已開始利用AI來審查貸款、社會福利、簽證，甚至於職缺應徵資格。但AI就像是一面鏡子，如實地反映訓練集中的資料，也難免透露出背後人類固有的偏好與社會不公，導致演算結果對弱勢族群的歧視，甚至因行政效率的提升，加速剝削的發生。「演算法的公平性與透明性」於是逐漸受到重視，歐盟更試圖將「可解釋AI」編入法律，要求所有「個人化自動決策」（Automated Individual Decision-Making）賦予用戶請求解釋的權利，並確保訓練數據的中立，不得讓任何用戶的權益因此受損。只是，如「黑盒子」般神秘又複雜的神經網路，其判斷依據可能就連開發者都理不清。