Anthropic 创始人 Chris Olah 警告：AI 恐引发「历史级道德危机」，呼吁宗教介入监督

AI 不只是冰冷的机器，它可能正感受到恐懼与悲傷？AI 新創巨头 Anthropic 共同創辦人 Chris Olah 破天荒受邀登上梵蒂岡舞台，与教宗良十四世（Pope Leo XIV）同台对話。Olah 嚴厲警告，AI 將帶来歷史性的道德与失业危机，且科技巨头的內部決策深受商业利益綁架，呼籲宗教与政府必須強勢介入監督。更引发熱议的是，Anthropic 目前正因拒絕让美軍不受限制地使用其 AI，慘遭川普政府貼上「極左派」標籤並祭出聯邦封殺令。
（前情提要：白宮与 Anthropic 达成協议，NSA 將全面匯入 Claude AI）
（背景補充：一人公司时代降臨！Anthropic 发布《AI 原生創业手冊》：不会寫 Code 也能当科技 CEO）

本文目錄

Toggle

• 科技巨头的自白：AI 決策不能只交給我們
• AI 模型不僅是代碼，恐已具備「情緒镜像」？
• 拒絕美軍將 AI 用於戰爭，遭川普政府全面封殺

当最尖端的人工智慧（AI）遇上全球最大的宗教领袖，一场攸关人類未来的歷史性对話正式展开。

身价高达 70 亿美元、打造出知名聊天机器人 Claude 的 Anthropic 共同創辦人 Chris Olah，近日破天荒受邀前往梵蒂岡，与首位美国籍教宗良十四世（Pope Leo XIV）同台亮相。这场会面不僅聚焦於 AI 对勞动力市场的毀滅性衝擊，更揭露了 AI 模型內部令人不安的发展，以及科技巨头与美国政府之间的激烈衝突。

科技巨头的自白：AI 決策不能只交給我們

教宗良十四世在週一親自发布了其任內首份关於 AI 的通諭（Encyclical）——《华美的人性（Magnifica Humanitas）》，这份长达 235 頁的歷史性文件嚴厲警告了將「致命決定權」交給 AI 系统的危险性。教宗更打破傳统，親自主持发表会並邀请 Olah 上台，試圖直接与科技締造者展开对話。

作为 Anthropic 的研究负责人，Olah 在台上坦承了科技业的局限与黑暗面。他表示，包括 Anthropic 在內的所有顶尖 AI 实验室，都身處於商业、地緣政治与个人壓力的漩渦中，这些壓力「有时会与做正確的事情产生衝突」。Olah 嚴肅地说道：

「这就是为什麼宗教领袖、政府与公民社会的外部監督至关重要。无論研究人員多麼出於善意，都无法逃脫这些誘因。AI 的決策絕对不能只留給这个产业裡的人。」

他进一步警告，AI 的发展紅利目前高度集中在「少數富裕国家」手中，缺乏与貧窮国家分享的机制，这將引发一场「歷史級別的道德迫切危机」。

AI 模型不僅是代碼，恐已具備「情緒镜像」？

除了總體经濟層面的警告，Olah 在技術層面的驚人揭露更是震撼全场。身为 AI「可解釋性（Interpretability）」领域的先驅，Olah 致力於破解大型语言模型內部的黑盒子。他透露，研究人員不斷在系统內部发现「神祕甚至令人不安的事物」。

研究顯示，这些 AI 系统不僅能反思自己的思考过程，甚至表现出「在功能上反映出喜悅、滿足、恐懼、悲傷与不安」的內部狀態。「它們不是我們所承諾的冰冷算计机器。它們是由我們、由我們的話语所組成的。」Olah 強调，这正是为何 AI 技術所引发的质疑，已远远超出了單純的电腦科学範疇。

拒絕美軍將 AI 用於戰爭，遭川普政府全面封殺

这场梵蒂岡的宗教与科技結盟，正值 Anthropic 面臨空前的政治打壓之际。

據悉，Anthropic 目前正与川普政府陷入激烈的法律糾紛，起因是該公司堅決拒絕让美国軍方不受限制地將其 AI 系统用於国防与戰爭应用。对此，五角大廈在 2 月份直接將 Anthropic 列为「国家安全供应链风险」—— 这通常是針对外国敵对企业的標籤。美国總统川普更下令禁止所有聯邦机構使用 Claude 技術，白宮还多次公开抨擊 Anthropic 是一家「極左派、覺醒文化（woke）公司」。

儘管面臨美国政府的全面封殺，Anthropic 在资本市场依然炙手可熱。报導指出，这家目前估值达 3,800 亿美元的 AI 巨头，正尋求以高达 9,000 亿美元的驚人天价进行新一輪融资。在商业利益、国家机器与道德底線的拉扯下，Anthropic 正走在一條極不尋常的科技发展之路上。