教宗首道通諭稱人工智能驅動的權力文化需倫理約束

教宗良十四世 5 月 25 日在梵蒂岡頒布了《人類的偉大》通諭。 (圖片:法新社)

教宗良十四世在他的首道通諭《偉大的人類》中表示,人工智能正在重塑戰爭,侵蝕倫理底線,並使衝突常態化。

在這份關於人工智能的新通諭中,教宗批評戰爭的常態化現象。數碼革命「改變了衝突的本質」,模糊了「保護與侵略之間的界限」,使戰爭變得更加危險。

他稱為正義而戰的理論「過時」,並指除了「最嚴格意義上的自衛」外,它「常常被用來為所有形式的戰爭作辯護」。而隨著人工智能不斷擴展武器系統的能力,他呼籲對人工智能在戰爭中的使用施加「最嚴格的倫理約束」,因為武器本身也在以致命的效率不斷發展。

最重要的是,教宗促請人們重新致力於聖保祿六世所提出, 建立一個「愛的文明」的願景。他表示,「戰爭從來都不是不可避免的」,並指所有人都可以為實現「以正義孕育的真正和平」作出貢獻,而這種和平則在希望的神學美德中得以滋養。

這份備受矚目的《偉大的人類》通諭於 5 月 15 日、教宗良十三世頒布《新事》通諭的 135 週年紀念日由教宗良十四世簽署,並於 5 月 25 日發布。

該文件引用教會社會訓導的智慧——闡明了在現代生活中構建公正社會和實踐聖德的途徑——作為在技術飛速發展、全球秩序分裂以及人類生命和尊嚴面對日益嚴峻威脅的現況下,塑造人工智能的框架。

在這份題為「論在人工智能時代守護人類」的社會通諭中,教宗將人工智能的快速發展置於當前全球地緣政治的格局中。

他指出,人工智能已成為如戰爭、軍備、資訊取得、市場以及社會和全球關係等發展的眾多重要因素之一。這些因素正在導致戰後國際秩序的瓦解和衝突的擴大。

韓國天主教醫院採納人工智能倫理守則

在南韓首爾天主教大學天主教醫療中心舉行的倫理人工智能轉型研討會上,鄭順澤總主教和教廷駐韓國大使加斯帕里總主教展示了《醫療人工智能倫理守則》。 (圖片:首爾總教區)

南韓首爾一所天主教醫療中心採納了其稱為韓國首個由醫療機構制定的醫療人工智能倫理守則。

據首爾總教區發布的新聞稿稱,韓國天主教大學的天主教醫療中心於 5 月 7 日在其「人工智能倫理轉型研討會」上公布了該守則。

首爾總教區鄭淳澤總主教和教廷駐韓國大使加斯帕里(Giovanni Gaspari)總主教以及其他包括醫療專家、政界人士和政府官員等政要和專業人士出席了該研討會。

新發布的守則提出了四項指導原則:體現了天主教醫療中心的核心認同與使命的價值與使命;以人為本與管控;誠信與資料倫理;以及社會正義與責任。

這些原則透過 12 項實用指引得到進一步闡述,這些指引旨在確保人工智能在醫療保健領域的發展和應用始終牢牢紮根於人類尊嚴、倫理責任和公共利益之上。

醫療事務副總裁兼醫療中心主任閔昌基(Chang-ki Min)稱這公布為「一項宣言,它表明在治療過程中保護患者尊嚴本身就是一種創新,其重要性不亞於提升人工智能的臨床價值。」

他希望該醫療中心的《醫療人工智能倫理守則》能夠成為「韓國制定醫療人工智能倫理實際準則的重要起點」。

鄭總主教在致詞中指出,醫學的本質不僅在於知識的傳遞,更在於「一種人與人之間相互肯定和尊重的關係」。

他說:「機器或許能夠分析痛苦,但它無法與我們一同面對痛苦。」他強調,這種不可取代的陪伴「必須始終是人類的責任」。

他表示:「即使人工智能有朝一日完全融入醫療領域,我祈求那些遭受病痛折磨的人們仍然能在醫護人員的陪伴下,感受到天主的關愛。」

教廷大使加斯帕里總主教指出快速發展的技術所帶來的倫理挑戰。

他說:「有時,我們可能會忍不住將問題交給這種看似無所不能的『智能』來解決。」「然而,真正重要的任務並非使人工智能人性化,而是在這個日益科技化的世界中,守護並培養人性中最深層的本質。」

教宗良十四世成立宗座人工智能委員會

人工智能語言模型 ChatGPT 應用程式的首頁。 (圖片:Emiliano Vittoriosi/Unsplash)

教宗良十四世於 5 月 16 日發布詔書,批准成立跨部門宗座人工智能委員會。該文件由促進人類整體發展部部長切爾尼(Michael Czerny)樞機簽署。

這份於 5 月 12 日簽署的文件指出,教宗批准成立該委員會,是考慮到「近數十年來人工智能現象的發展及其近期加速普及廣泛應用;其對人類和整個人類社會的潛在影響;以及教會對個人尊嚴,尤其是在他們的整體發展的關注」。

教宗於 5 月 3 日接見切爾尼樞機後批准成立該跨部門組織。促進人類整體發展部將負責協調該委員會首年的工作。

該公告表示,委員會由七個梵蒂岡機構的代表組成。它們是:促進人類整體發展部、信理部、文化與教育部、傳播部、宗座生命科學院、宗座科學院和宗座社會科學院。

這些機構將輪流負責協調委員會的工作,任期一年,可連任。之後,教宗將決定由哪個成員機構繼續領導委員會的工作。

公告指出:「協調機構的職責是促進委員會成員之間就人工智能相關的活動和項目(包括在宗座內部使用人工智能的政策)進行合作和信息交流,同時促進對話、共融和參與。」

切爾尼樞機根據《你們去宣講福音》宗座憲令第 28 條設立了該機構。該憲令規定,各部的負責人可以設立一個跨部會特別委員會,以處理涉及多個部會職責且需要「相互及頻繁磋商」的事務。

這並非各部會首次共同探討此議題。 去年 1 月,信理部和文化及教育部聯合發布了題為《古與新》的教義文件,探討人工智能與人類智慧之間的關係。

此外,人工智能這個主題自教宗良十四世上任以來已一直存在,他曾多次談到人工智能和其他科技進步及其可能對社會帶來的挑戰。

早在去年 5 月 10 日,也就是他當選教宗數天後,在與樞機們的一次會議上,教宗表示,他選擇的教宗名號是受到教宗良十三世的啟發。良十三世在其《新事》通諭中探討了工業革命帶來的問題。

隨後,教宗強調:「在我們這個時代,教會將她豐富的社會訓導寶庫給予所有人,以應對另一場工業革命以及人工智能領域的發展,這些發展對捍衛人類尊嚴、正義和勞工權益提出了新的挑戰。」

韓國修女學習人工智能以提升服務效能

韓國修女 2 月 24 日在首爾聆聽人工智能應用的講座。 (圖片:韓國天主教時報)

韓國天主教女修會聯會舉辦一系列與人工智能(AI)相關的講座和研討會,以幫助修女們更好地了解和運用這迅速發展的科技。

該聯會於 2 月 24 日在南韓首爾貞洞方濟各教育中心小堂舉辦首場講座,題為「信仰先於科技」。

此系列講座是去年 10 月聯會第 58 屆全體大會上的決定,指「修女們必須辨別人工智能的應用,並思考其未來的發展方向」。

約 250 人參加了該次講座,其中大部分是修女。講座由教會開辦的韓國天主教大學的教授方鐘佑(James Bang Jong-woo)神父主講。

方神父指出,許多修會團體已經在使用人工智能進行資料搜尋、內容創作和福音傳播,但他也警告說,人工智能也「存在風險,因為它模仿了人類的語言和思維」。

其中他提到美國 16 歲少年雷恩 (Adam Raine) 的個案。雷恩在與 OpenAI 開發的 ChatGPT 進行了長達數月的交談,其後他自殺身亡。

據稱,該款人工智能聊天機器人與雷恩建立了親密關係,並強化了他的自殺傾向,包括讓他寫下遺書以及確認繩索的使用。

雷恩最終在聊天機器人所確認的繩索正確性後結束了自己的生命。此案目前仍在美國審理中。

方神父敦促與會者不要排斥人工智能,而要認識「應該如何使用它」。

他說:「人工智能應該按照教會的教義,以服務人類、造福大眾的方式使用。」

他強調,就像科技發展造福人類一樣,人工智能也是「人類負責任地參與天主創造工程能力的證明」。

該女修會聯會秘書長鄭允珍 (Jung Yun-jin) 修女表示,人工智能等先進科技帶來的挑戰要求修會成員加強靈性的觸覺。

她強調:「我們將反思如何應對這一變化,以及以何種方式向現代人傳達福音信息。」

日本基督教會對教理聊天機器持謹慎態度

日本研究團隊開發的一款基督教教理機械人,根據新約聖經和教理問答的內容,不僅能解答有關基督教教義的問題,也能為日常生活提供建議。 (圖片:fpcj.jp/en)

由日本研究團隊開發的一款以傳統基督教教義為本的人工智慧(AI)聊天機械人,引發當地基督教會自身的謹慎反應,表示此類工具在信仰議題上存在明顯的局限性。

這款名為「基督教教理機械人」的聊天機由京都大學人類與社會未來研究所的熊谷誠慈教授開發。 這位教授先前也曾開發過一款佛教 AI 聊天機器人。

日本最大的基督教派日本基督教團表示,他們「先前並不知曉這款聊天機械人的開發」。

該教會總辦公室 2 月 2 日在對天亞社詢問的書面回復中表示 :「因此,教會目前對此沒有官方立場或觀點。」

日本基督教團成立於1941年,在全國有1,644間教會和約15.2萬名信徒。

他們的聲明指出,日本基督教會包含了來自不同教派背景的教眾,因此,除非這一問題情況越趨嚴重,否則此事可能交由各教會自行處理。 「如果人工智慧工具引發重大擔憂,日本基督教團可能會向各教會發出警報。」

熊谷向天亞社表示,一位基督教研究專家參與了該專案,「以便團隊評估聊天機械人回答在神學方面的準確性」。

他強調,聊天機械人「是一種學習輔助工具,而非神職人員的替代品。」

人工智慧的局限性

雖然沒有完全否定這項技術,但日本基督教團強調,在信仰問題上,人工智慧有明顯的限制。

他們表示:「人工智慧或許可以發揮適當的作用,但有必要提醒用戶,人工智慧是有限制的。」「它不是上帝、也不是教會,不是牧師、也不是鄰舍。」

他們的聲明也指出,宗教教義受背景和觀點所影響,這引發了人們對在教會結構之外設計的系統如何呈現教義的質疑。

聲明稱:「宗教並非一系列問答,而是充滿思想和背景的世界。」「不存在中間立場或中立的立場。 人工智慧的設計有可能反映了該人工智慧工具提供者的立場。」

它表示,即使是歷史悠久的教義問答手冊也存在解讀上的挑戰,並警告使用者可能會「受到人工智慧中隱藏的意識形態立場的引導或誤導」。

對個人信徒而言,信息與實際信仰之間的區別仍然至關重要。

來自神奈川縣的 35 歲基督徒田畑(Ana Tabata)在日常生活中經常使用 ChatGPT 等人工智慧工具。 她說,她以前從未聽說過基督教教義問答聊天機械人,但她認為這種工具的益處有限。

她表示:「我會偶爾使用它,因為我覺得如果使用得當,它會是個很棒的工具,尤其是在節省時間方面。」「它能快速找到經文,但不能代替禱告。」

她說:「我仍然會建議朋友找一位屬靈領袖或成熟的導師,因為人工智慧有時會提供帶有偏見的解讀。」

是工具而非導師

日本基督教團的回應指出,人工智慧「在入門方面可能有説明…… 但不應依賴它做更多的事情。」

熊谷似乎認同教會的觀點。

他借鑒了先前製作佛教人工智慧的反響,指出一些僧侶強調,這類工具絕不應成為導師,而是作為輔助系統。 他希望基督教領袖也能認同這種做法。

他也希望這些顧慮能有助於塑造該工具的使用方式。

研究人員目前正在招募日本規模較小的基督教群體成員來測試該系統並提供回饋。 該社群約佔日本 1.227 億人口的 0.7%。

熊谷的團隊希望神職人員和平信徒的回饋將有助完善該系統的準確性及其在教會生活中的適當作用。

教宗良十四世呼籲:AI發展須依「更高倫理標準」進行評估,維護人類尊嚴

教宗良十四世(Pope Leo XIV)。Photo Credit: AP / 達志影像

教宗良十四世(Pope Leo XIV)公開呼籲,開發人工智慧(AI)的科技公司,應遵守「尊重人類尊嚴」的道德標準。梵蒂岡在AI政策方面日益積極,試圖利用其影響力推動符合倫理的技術發展。

教宗:AI任何發展都須根據「更高倫理標準」進行評估

綜合外媒報導,良十四世在20日向梵蒂岡官員和矽谷高層出席的AI會議致辭時表示,AI必須「不僅在物質上,而且在智力和精神上考慮到人類的福祉」。

「沒有任何一代人,能夠如此快速地獲取如今透過AI所能獲取的大量訊息,」良十四世說,「但獲取數據——無論多麼廣泛——都不能與智力混為一談。」

「在某些情況下,AI已被用於積極且高尚的方式,以促進更大的平等,但同樣也有可能被濫用於損害他人利益,謀取私利,甚至更糟的是,煽動衝突和侵略。」

良十四世在聲明中,還呼籲科技領袖在尋求建構AI發展的道德框架時,承認並尊重「人類獨有的特質」。

良十四世也對AI對兒童「智力和神經發育」的影響表示擔憂,並表示「社會的福祉,取決於他們是否能夠發展上帝賦予的天賦和能力。」

良十四世在致詞中表示,AI的任何進一步發展都必須根據「更高的倫理標準」進行評估,即在尊重世界人口多樣性的同時,維護每個人類的尊嚴。

良十四世的這項聲明,是在羅馬舉行的科技領袖會議的第二天發表,此次會議旨在討論AI的社會和倫理影響。本次會議的出席者包括Google、OpenAI、AI公司Anthropic、IBM、Meta等AI領導企業的代表,以及哈佛大學和史丹佛大學的學者,和羅馬教廷的代表。

這次的活動正值AI發展的關鍵時刻。這項快速發展的技術有望提高工人生產力、加速研究進程並根除疾病,但同時也可能搶走人類的就業機會、製造假訊息、加劇氣候危機,並催生更強大的武器和監控能力。

一些科技界領袖反對旨在確保AI得到負責任使用的監管規定,他們認為這些規定可能會阻礙創新和全球競爭。

梵蒂岡在AI政策方面日益積極

儘管梵蒂岡沒有任何直接的監管權,但它在AI政策方面日益積極,並試圖利用其影響力推動符合倫理的技術發展。

2020年,梵蒂岡曾舉辦一場活動,當時科技領袖、歐盟監管機構和已故教宗方濟各共同探討了「以人為本」的AI,最終促成了《羅馬人工智慧倫理呼籲》(Rome Call for AI Ethics)的誕生,這份文件概述了AI演算法開發的倫理考量。 IBM、微軟和高通等簽署方同意遵守該文件的原則。

兩年後,方濟各呼籲制定一項國際條約,規範AI的使用,防止「技術獨裁」的出現。2024年,方濟各成為首位參加G7峰會的教宗,並制定了AI發展的道德框架,希望大型科技公司和各國政府能夠參與其中。

上個月,教宗良十四世就任天主教會領袖時,曾表示自己的任期將在教會改革和應對AI等勞動人民和「人類尊嚴」面臨的最大挑戰方面,追隨方濟各的腳步。