下一代怎麼看AI：青少年對於人工智慧的倫理反思
AI時代來臨，現代的兒童及青少年出生於智慧型手機問世之後的時代，在他們成長的過程裡，也伴隨著AI一起成長。然而，AI作為一個新興技術，仍然有其不穩定的地方。諸如AI模型從大量訓練資料所產生的種族歧視或性別歧視現象、或是有心人士使用AI工具操控政治輿論等等。對於下一代如何使用並看待AI，讓教育界及學術界等各界的學者都十分關心。
撰文｜王冠云
研究脈絡：兒童及青少年權利的維護
UNICEF（聯合國兒童基金會）在2021年，即針對兒童或青少年使用AI，製作了政策面相關的指引，供家長或教育界參考。他們提供了9點要求，建議AI系統的開發者應該要服膺於這些要求，以維護青少年及兒童的權益。例如，讓AI能支持孩童的發展與福祉、不排擠任何孩童、能保護孩童的隱私及資料、能提供透明性及可解釋性等等。
另一方面，兒童電腦互動 (Child-computer Interaction, CCI) 亦是一個重要的研究領域，如今已經發展了二十餘年，專門研究「以兒童為中心」的科技設計。CCI的研究對象是廣義的「兒童」，包含0-18歲所有未成年的對象。在Lehnert等人 (2022) 的回顧性研究中指出，大多數CCI的研究多以應用程式的測試與評估為主，不少為新開發的手機App，而隨著新興科技的發展，也有不少運用了物聯網、AR/VR等技術的評估研究。
然而，儘管多數的CCI研究所應用的場域在教育的脈絡之下，且也有不少針對ADHD（注意力不足過動症）、聽力障礙等其他特殊教育的學童而設計的服務或應用。但是，Lehnert等人 (2022) 卻發現，僅有大約一半的研究有在實驗開始時進行知情同意，而且超過半數的研究沒有提及倫理審查相關的程序。
倫理面的擔憂以及下一代怎麼看AI
Lehnert等人 (2022) 在論文中表示，他們十分擔憂CCI相關研究的倫理課題。此外，多數研究都是從開發者的角度，測試新的服務或系統是否能提升孩童的學習或是達成科技設計的目的，但少有研究從使用者的角度，看孩童如何看待科技甚至人工智慧。Gazulla等人 (2024) 指出，專家已經呼籲人工智慧應該納入正規的教育課程，讓下一代增進對於人工智慧的理解。而為了培養能開發人工智慧的年輕人，應該關注青少年對於人工智慧的看法，並且了解他們的倫理思維，讓下一個時代的新興技術能產生正向的發展。
Gazulla等人 (2024) 的研究針對三個13-16歲青少年案例進行回顧性分析，這些案例來自於一些針對青少年而設計的工作坊或課程的討論，讓研究者得以分析青少年們對於AI的觀點。研究發現，在案例中的青少年們，都共同關注了AI使用助長的成癮問題以及誤導訊息或仇恨言論的傳播問題等等。在大多數青少年的討論中，正因為生活即可見AI，他們都提及了日常生活中AI的使用經驗以及倫理議題。
Gazulla等人 (2024) 的研究歸納發現，針對成癮、科技監視、輿論操控、仇恨言論等等議題，大多數青少年進行倫理思考的道德框架多為「結果主義導向」，且看法限於自我中心主義。例如，他們更關注於AI科技所能帶來的「積極後果」，認為AI科技最終仍能對於多數人類利益是有所幫助的。而在思考人工智慧技術的潛在優勢時，也多是從個人為中心的角度來思考可帶來的價值。
AI的永續發展與倫理反思
針對「自我中心主義」以及「結果主義」的AI科技倫理思考，Gazulla等人 (2024) 提醒，可以鼓勵年輕人從多元文化的觀點，甚至是不同世界觀、不同物種的觀點來思考AI科技所帶來的影響。此外，少見的「德行倫理學」角度的思考也較為缺乏，畢竟目前已有不少聲浪指出，人機介面的設計應該可以多從美德的觀點出發，尤其人工智慧的其中一支的發展即是設計「像人一樣的夥伴關係」的AI，當人工智慧可能變成某種形式的未來老師或未來朋友時，這樣的倫理觀點也更加重要。具體來說，當我們擁有了一個「能解決所有問題」的「AI朋友」，以功利主義的觀點而言，那是一個「很有用的朋友」，但這樣的朋友，從德行面來思考，還能稱為朋友嗎？
另外，超脫人類中心的觀點，也是發展永續生態的一個重點思考。當AI科技的發展能對人類社會有所貢獻的同時，是否也能兼顧到這個地球上其他生物的福祉？發展人工智慧所消耗的電力，建構智慧城市所需的環境空間等等，在當今嚴峻的生態危機之下，會不會更加劇了對於整體生態的影響？Gazulla等人 (2024) 坦言，他們有些失望研究中的孩子們對於動物及整個生態系統較為缺乏考慮，但可能也是因為案例中的學生們並沒有被特別提醒要用具有倫理意識的觀點來進行思考。不過，這也凸顯了在沒有任何提點的情況之下，年輕人對於道德倫理的思考還是較為缺乏的。
參考文獻
- Policy guidance on AI for childrens
- Lehnert, F. K., Niess, J., Lallemand, C., Markopoulos, P., Fischbach, A., & Koenig, V. (2022). Child–Computer Interaction: From a systematic review towards an integrated understanding of interaction design methods for children. International Journal of Child-Computer Interaction, 32, 100398.
- Durall Gazulla, E., Hirvonen, N., Sharma, S., Hartikainen, H., Jylhä, V., Iivari, N., … Baizhanova, A. (2024). Youth perspectives on technology ethics: analysis of teens’ ethical reflections on AI in learning activities. Behaviour & Information Technology, 1–24.
- 德行倫理學