解釋工具

隨著機器學習模型的應用範圍越來越廣，也就不可避免地對我們的生活造成或多或少的影響，甚至擴大原本就存在社會中的歧視或給出不公的預測結果，深入了解模型的內部運作也就有其必要性。然而可解釋性的相關研究相當困難，即使已有許多工具與套件可供使用，但研究人員能否正確解讀這些工具所提供的數據也是一大問題。