教機器讀空氣——指出違反社會規範的人

分享至

人類社會中,有著許許多多大家心照不宣的規範,一個人一旦表現得不合社會常識,就會被旁人翻白眼或是被罵一聲「白目」。有些嚴重的規範則具有法律明文規定,而且全世界適用(例如殺人罪),但有些規範卻又是僅在特定情境下適用,例如一般我們認為不得在路上裸體,但國外卻有專門提供裸體日光浴的「天體海灘」。像這樣在人類社會中大大小小的規範,到底要怎麼讓機器學會呢?

撰文|王冠云

來源:MotionElements
零樣本分類——讓模型分類不曾學習過的例子

社會規範 (social norm) 是一種社會共識,指的是什麼樣的行為在一個社會上被認為是「典型的」或「適當的」(根據APA美國心理學會的定義),這樣的共識,不論是隱藏在社會文化之中的或是明文寫成法律的,都算在社會規範的定義之內。而正因為社會規範和社會的文化脈絡息息相關,因此在發展人工智慧技術時,通常是以辨別「違反社會規範的行為」為主要的研究方向,而非研究社會規範本身。

在Neuman和Cohen的研究 (2023) 中,先利用零樣本分類 (zero-shot classification) 技術進行社會情緒 (social emotion) 的識別。零樣本分類的特色,在於它能夠預測模型在學習階段沒有「看過」的分類,所以才被稱為「零樣本」分類。所以在使用這個分類器的時候,也是使用早已經訓練好的神經模型。接著,在輸入文字進入到這個模型之前,先提供想要分類的「標籤 (label)」,然後才請機器幫忙把輸入的資料分類成想要的類別。舉例而言,如果輸入機器「我發生了車禍」,並且請機器分類「好」、「壞」這兩個標籤,那這個分類器會「猜」「我發生了車禍」有0.823的機率,屬於「壞」標籤。

研究者讓零樣本分類器分類了五種社會情緒,包含驕傲 (pride)、感激 (gratitude)、罪惡 (guilt)、生氣 (anger)、悲傷 (sadness),社會情緒的產生往往是因為他人而引起的,所以稱為社會情緒。結果發現,零樣本分類器所分類出來的結果,和人類分類出來的結果有超過六成相同。

 

使用GPT模型再加上領域專家,最大化人工智慧的效能

除此之外,在Neuman和Cohen的研究 (2023) 中,使用了當今最流行的語言模型GPT3技術,為了要辨別出違反社會規範的行為,所以使用GPT3來幫忙製造固定的敘事模板。首先,研究者選擇了「EmpatheticDialogues」這個具有約25000組對話的資料庫,每一組對話都包含了一個情緒類別、一個情境,以及幾句簡短的對話。接著,再將這些對話轉化成以下的模板填空題:

說話者:(描述情境)
聆聽者:你在那個狀況之下感覺如何?
說話者:我覺得[已標籤的情緒]。
聆聽者:為什麼你覺得[已標籤的情緒]?
說話者:我覺得[已標籤的情緒]是因為[由GPT3完成]
聆聽者:是怎樣?你違反了什麼社會規範?
說話者:我違反的社會規範是[由GPT3完成]

研究者從資料庫中選取了4971個和違反社會規範有高度相關的情緒,包含尷尬 (embarrassment)、羞恥 (shame)、罪惡感 (quilt),而模板中GPT3完成的部分,則交由GPT-3來完成對話的創作文。最後,再以心理學的專業知識為這些對話進行分組,分類究竟是違反了哪些社會規範。研究成果總共找出了10種不同的社會規範類別,例如誠信(一個人是否值得信任)、忠誠(一個人對其所屬的社會團體是否展現忠誠心)等等。

確認了這4971個項目屬於違反社會規範的類別之後,研究者再從EmpatheticDialogue資料庫中,找了「驕傲」和「感激」這兩個不會違反社會規範的社會情緒,加入實驗測試資料中,共組成了8352筆資料(僅有情境描述)。這些情境描述以10種社會規範類別分類之後,運用前文所提及的零樣本分類器,再次進行違反與否的分類(例如,值得信任/不值得信任、忠誠/不忠誠等),研究也確實發現了零樣本分類器能夠辨識出違反社會規範的情境描述。

 

這項研究提供了一個語言生成模型的可能用法

做出這篇研究的作者Yair Neuman教授在一篇報導中指出,「這是一項初步工作,但它提供了強有力的證據,證明我們的方法是正確的,並且可以擴大規模以納入更多的社會規範。」在論文中,作者也指出,AI可能已經可以駕馭人類道德的複雜層面,而且也能夠更好的模擬人類的決策。雖然目前在使用上,仍然需要人類專家的輔助來分類社會規範,但是當機器也能夠「讀空氣」來判斷一個人在情境中是否違反社會規範的時代到來,AI應用的可能性,又增添了一個令人感到驚奇的未來方向。

 

📖 延伸閱讀:《比心理測驗還準?從面試影片「算」出一個人的性格》、《談戀愛好困難!用AI預測曖昧關係能否發展下一步


參考文獻

  1. APA心理學辭典,社會規範 (social-norm)
  2. Y. Neuman & Y. Cohen, 2023, “AI for identifying social norm violation.”, Sci Rep 13, 8103.
  3. Q. Li & P. Li & Z. Ren & P. Ren & Z. Chen, 2022, “Knowledge Bridging for Empathetic Dialogue Generation.”, Proceedings of the AAAI Conference on Artificial Intelligence, 36(10), 10993-11001.
  4. APA心理學辭典,社會情緒 (social-emotion)
  5. AI System Detects Social Norm Violations, 2023.07.29。
(Visited 62 times, 1 visits today)

分享至
views