條件機率

NLP語言模型如GPT-2或是BERT，雖然功能強大──任何人都可以從Github上下載，快速產生流暢、以假亂真的文字內容──但本質上都屬於文本預測系統（根據上下文推測下一個最有可能出現的字詞或句子），容易被有心人士操弄，產生帶有歧視或極端負面的文字。它們就像是力量強大的大象，如果開發者無法約束模型所生成的文字內容，能實際付諸應用的地方便會處處受限。來自Uber AI的研究員就找到了一隻可以用來控制大象的小老鼠。