對抗樣本

對抗樣本泛指那些會誤導分類器的輸入，通常是一張帶有雜訊的圖片，透過神經網路進行圖像辨識卻得出錯誤的分類結果，最早於2014年由Christian Szegedy等人注意到這樣的現象。一直以來，眾人對於對抗樣本存在的原因莫衷一是；MIT研究員Andrew Ilyas等人則認為對抗樣本其實可以被視為資料本身的一種特徵，反映圖片中那些不為人類察覺的細微區別。