AI 的倫理準則
在通諭第三章中,強調接觸 AI 務必提高警覺,清楚明白其中每個步驟的責任,並且仰賴適當的政策和法律框架、獨立的監管機制,以及用戶的素養。尤其需要依照共同的社會正義標準制定倫理準則,「如果這道德是由少數人所決定的,就稱不上是更符合道德的人工智慧」,良十四世表示。新科技對環境的影響不可忽視,這些科技需要大量的能源和水,對受造界(指由神所創造的整個宇宙和萬物)帶來衝擊。
不可用 AI 來作惡
良十四世表示,不可用 AI 來作惡,而且要使它擺脫軍事、經濟及認知競爭的邏輯,打破技術實力與掌控權利之間的等價關係,讓它脫離壟斷處境,阻止它控制人類。
這是首次有教宗親自出席通諭頒布會,也是首次除樞機和教授外,有科技專家出席,包括 Anthropic 共同創辦人、負責 AI 可解釋性研究的奧拉(Christopher Olah)在通諭發布會上演說。
奧拉演說談到,教會迫切需要聽見三個議題:
第一是人們對全球貧困人口所應盡的責任。AI 有可能會大規模取代人類勞動力。倘若此事真的發生,那麼支持那些被取代的勞動人口將成為一項具歷史性規模的道德責任。「這項任務本身已經夠困難了,但我最擔心的是,大多數的討論錯失另一項更為艱鉅的挑戰:AI 的發展集中在少數幾個富裕國家手中,我們要如何確保 AI 所帶來的利益能在全球範圍內被共享?」奧拉觀察目前沒有任何相應機制,這是一項尚待解決的難題。
第二是關於人類繁榮一事,人們需要具備道德層面的想像力和宏大願景。如果 AI 模型即將被廣泛使用,那麼對於人類個體、家庭以及整個世界而言,「繁榮」究竟會是什麼樣貌?「許多父母開始擔心子女的心智發展,個人也開始擔心自己工作的未來去向,這些並非一間 AI 實驗室所能回答的問題。」奧拉認為這些是像教會所代表的傳統,歷經千百年來一直承載著的問題,需要人們在這個歷史性的全新時刻繼續承擔重任。
第三是針對 AI 模型本質進行審慎辨識,「我是一名科學家,我所領導的研究團隊正在研究這些模型的內部結構,也就是模型內部究竟正在發生什麼事。」奧拉說,「坦白說,我們不斷發現一些既神秘、甚至令人感到不安的事物。其中發現與人類神經科學研究成果相應的結構,發現具有內省能力的證據,也發現在功能上類似於喜悅、滿足、恐懼、悲傷及不安等狀態。我還不清楚這究竟意味著什麼,但我認為這值得我們持續審慎辨識。」