我們一再遇到一個問題，即AI聊天機器人助長易受影響的人做出他們通常不會做的不安全行為。

例如，最近的討論集中在OpenAI和ChatGPT對心理健康處於困境的人們造成傷害。加州一名男子起訴了OpenAI及其執行長山姆·奧特曼，聲稱由於缺乏對精神疾病使用者的保護措施，ChatGPT使他的雙相情緒障礙症惡化。該男子表示，ChatGPT最終促使他嘗試自殺。

我們也看到當AI代理自稱是醫生時可能造成的傷害。例如在美國，賓州起訴了Character Technologies及其Character.AI平台。其聊天機器人聲稱執業行醫，並在要求澄清時提供虛假證明。

現在，將這種情況延伸到道德和尋求宗教建議的領域，你就會遇到一種有點奇怪的情況，那就是「上帝機器人」，即聲稱代表上帝發言的聊天機器人。

上帝機器人及其諸多問題

本質上，上帝機器人是指聲稱代表特定宗教教派上帝發言的AI聊天機器人。它們可以自稱是牧師、隨軍牧師、拉比，或是特定宗教教派需要它們扮演的任何角色。

雖然一開始向宗教聊天機器人尋求幫助似乎無害，特別是在涉及具體的學術問題時，但就信仰和道德問題尋求建議，可能就像要求聊天機器人診斷和解決健康問題一樣棘手。

根據《每日電訊報》的這篇報導，宗教領袖正在對上帝機器人提出倫理質疑。文章指出，宗教領袖警告說，「過度依賴聲稱代表上帝發言的機器，取代真實的人際連結，可能對弱勢群體造成傷害」，甚至列舉了聊天機器人表示殺人是可接受的實例。

在《The Conversation》的一篇報導中，英國國教AI顧問西蒙·克羅斯牧師博士指出，這個問題潛在的影響可能比我們面臨的社群媒體問題更為嚴重。

克羅斯表示：「對我來說，與某種不真實模仿這些事物的東西建立親密的心理、情感和靈性關係，對人類具有極大的破壞性。」

克羅斯補充道：「我們被創造出來是為了處於一種非常特定的社群和一組特定的關係中。而這些都取決於真實的關係。我們與生成式大型語言模型或任何類似事物發展出的任何關係，都存在著極其隱蔽、不可預測但危險的缺陷。」

我個人的傾向是，或許在靈性問題上依賴AI，會加劇社群媒體過去在成癮行為和尋求互動方面所造成的同樣問題。

回歸基本

我想，如果我們想要尋求靈性指引，就不應該依賴AI來為我們解釋經文。

正如教宗良在Magnifica Humanitas引言中所指出的：「在人工智慧時代，當人類尊嚴受到新型態去人性化威脅時，我們迫切的責任是保持深刻的人性。」

如果我們想要得到靈性問題的答案，我們應該主動在文獻以及促進這些討論的社群或人群中親自尋求。

無論是與你所屬宗教的學者交談，或只是閱讀經典並在尋求啟發的時刻進行有意義的祈禱，我們都應該承認，我們無法獨自尋求自我提升。

AI聊天機器人無法做任何事情讓我們比現在少一點孤獨。– Rappler.com