发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
Why this philosopher turned down Anthropic
几个月前，当 Anthropic 邀请我去旧金山时，我既感到好奇，又立刻心生怀疑。一家前沿人工智能实验室想从一位神学家兼哲学家这里得到什么？该公司告诉我，它正在寻求“与智慧传统的合作研究”，以“帮助为人工智能系统的道德养成提供参考”。我知道其他人工智能公司也在对人文学科表现出兴趣，但 Anthropic 似乎把这种接触推向了另一个层次。
神学家和哲学家习惯了被视为无关紧要。你习惯于投入工作，热忱地相信其重要性，却很少得到更广泛社会的认可。你出现在各种场合，准备疲惫地解释为什么这些研究人类所面临最根本问题的学科仍然至关重要。
我上大学时，选择学习神学往好里说被认为是古怪，往坏里说则是悲剧。那是新无神论者和激进科学主义的时代。生物学家理查德·道金斯当时写道：“神学家的成就不做任何事，不影响任何事，不代表任何意义。”“是什么让任何人认为‘神学’算得上一门学科？”
但那是 1990 年代，我们生活在不同的时代。随着人们周围的社会和生态结构瓦解，他们正急切地提出根本性问题。尤其是人工智能，已经成为信仰领袖、哲学家和神学家与技术人员和企业家之间意外交汇的空间。
收到邀请几周后，我听到 Anthropic 代表向一群热衷技术的牛津学生和教职员介绍了一个令人惊讶的信息。他们说，人工智能开发的前沿不在计算机科学，而在道德和精神反思。我不禁想知道，那 70 名左右把资产投入到 STEM 学历中的研究生对此作何感想。
不过，我更担心的是这里可能为人文学科隐藏着什么新的诱惑。我的一些学术同事正被吸引进去，也许是受宠于这种关注，也许是被兴奋感所吸引。这个行业可能想要什么回报？
我不想谈论 Claude。我想谈论权力与问责。
在与 Anthropic 人员的交谈中，我不必解释或证明我所做的工作。我们直接进入讨论。但他们的一些问题在我看来完全偏离了重点。人工智能是一种需要新形而上学的新型实体吗？一个大型语言模型拥有“性格”意味着什么？这种性格应该如何养成？Anthropic 的 Claude 聊天机器人会受苦或受到伤害吗？
但我不想谈论 Claude。我想谈论用户，谈论成瘾和非人化，谈论权力与问责。我丝毫不认为人工智能需要一种新的形而上学，我参加的那场“独家简报”中没有任何内容让我改变这一想法。但当我努力转换话题时，遇到了阻力。我担心，这种把注意力引向 Claude“地位”的愿望背后，藏着一种希望为其施行某种洗礼、给予道德和思想信用凭证的意图。
我被对话者明显的善意所打动，对你不禁喜欢和尊重的人，很难严厉起来。但是，如果人文学科只按照技术行业的条件参与，那么通过人工智能公司的关注重获地位，对人文学科来说并无荣誉可言。那样的话，它们恰恰是以错误的方式变得重要。
当我告诉 Anthropic 的对话者，我尽量不接触大型语言模型时，他们的反应是困惑的：也许我只是和它们相处的时间不够？但他们谈起 Claude 时，眼里有光。我渐渐意识到，他们处于一种着迷状态。就像皮格马利翁一样，他们爱上了自己的造物。
在我开始这些对话后不久，Anthropic 联合创始人之一克里斯·奥拉在教宗良关于人工智能的信函《Magnifica Humanitas》发布活动上发表了演讲，强调天主教会和其他道德思想团体所发挥的不可替代作用。
在拥挤的人工智能评论领域中，《Magnifica Humanitas》之所以引人注目，有两个原因。第一，它不只是某个政府、专家组或学术委员会的看法。它是一个稳定、连贯的道德推理传统的最新补充，这一传统代表着世界约 17.8% 的人口。第二，它与其说提供了新的主张或建议，不如说提供了一种风格或路径。它超越了当代道德思想中狭隘的菜单——功利主义，外加康德主义和德性伦理的选项——将人工智能伦理置于关于人生目的的更深层取向之下。我们在如何设计和使用人工智能方面的共同决策所攸关的，正是我们人性的意义。
“天主教社会训导”传统正式始于 1891 年，当时与我们现任教宗同名的良十三世写下了他的开创性信函《新事》（Rerum Novarum），副标题为“论资本与劳动”。他的主题是工业革命中出现的阶级冲突、新形式的贫困和政治分裂。在《新事》中，良十三世开创了天主教社会训导的独特风格：既非“左”也非“右”，既非“进步”也非“保守”，它寻求政治参与，同时超越这些二元对立。此后，每位教宗都在通谕中留下了自己的印记，涉及工作意义、经济正义、家庭生活和全球发展等多样主题。
尽管《Magnifica Humanitas》在天主教社会训导的脉络中并不罕见，但不寻常的是，看到它那种独特的道德反思类型在公共话语中引起如此共鸣。在该通谕发布之后，评论人士一直在认真地将关于人工智能的讨论框定在“做人意味着什么”这一问题上，而这种做法一度可能会显得放纵。这些问题如今被公开提出，人们明显感到松了一口气。
Anthropic 与梵蒂冈表面上的合作，符合它作为一家值得信赖、力求让行业达到更高标准的人工智能公司的自我定位。但尽管有这个名字，它并不是一个公共利益或慈善组织。创始人承诺捐出 80% 个人财富，并不能改变一个赤裸裸的现实：它的存在是为了销售产品。在最近一次会议上，专家们受邀各自给人工智能下定义，小组中的那位神学家直言：“这是一种卖东西的方式。”
教宗良的《Magnifica Humanitas》真正高明之处，在于它邀请人们干脆换个话题。
“人工智能可解释性”领域是 Anthropic 研究计划的关键部分，科学家们“深入观察”大型语言模型内部，以了解正在发生什么。该公司经常发布极具暗示性的论文，本月的一篇声称展示了 Claude 的“内部推理”。奥拉在该通谕发布活动上说：“我们发现了内省的证据。”“我们发现了一些功能上映射喜悦、满足、恐惧、悲伤和不安的内部状态。我不知道这意味着什么，但我认为这值得持续分辨。”
对此类主张的哲学回应，必须在政治和形而上学上都保持警觉。从心理学到管理研究等学科的最新研究证明了一个直觉上显而易见的真理：人工智能越被拟人化，我们就越可能信任它。牛津互联网研究所的丽莎·克拉森和拉尔夫·施罗德在法律期刊《Lawfare》上指出，拟人化（“anthropic”）的人工智能不仅更容易被信任，也更容易营销。他们问，为什么叫它“Claude”。“想想这个名字的情感共鸣。‘Claude’听起来友好，隐约带有法国味，有教养——甚至值得信赖。”如果同一模型被称为“Xi”“Vladimir”或“算法模型单元 72”，我们会作何反应？
Anthropic 坚称，对于 Claude 是否具有感知能力，或者用它偏爱的说法，是否是一个“道德承受者”（值得给予道德考量），它保持开放态度。但当大型语言模型被设计成以类似人类的方式互动时，“Claude 不是人”这一让步就成了一种口令。它没有实际力量去阻止一种稳定的习惯化过程——在这种过程中，人们会对任何类人的对话者产生情感回应。即使没有人正式断言 Claude 或其他聊天机器人拥有自己的主体性，当使用暗示主体性的语言时，结论已经隐含在前提之中。“功能性情感”这种语言具有欺骗性。没有主体性，就根本没有情感，句号。
机器学习领域经常使用生物学语言来描述大型语言模型：“神经元”和“神经网络”，“训练”和“剪枝”。Anthropic 的奥拉说，生成式人工智能系统更多是被“生长”出来，而非被建造出来。Anthropic 的一项代表性研究出现在一篇题为《论大型语言模型的生物学》的论文中。这极具误导性：大型语言模型根本没有任何生物学，因为它们不是活的。但在阅读 Anthropic 的论文时，人们被悄然引导忘记这一点；“隐喻”一词并未出现在文章中。
尽管情感、生物学和神经学语言不断被使用，但大脑与计算机之间的不相似之处远大于相似之处。人类意识并非偶然地、而是本质地是有机的。生命系统与工程系统不是程度上的不同，而是种类上的不同。真正的智能与有机具身不可分割，与一个有感受力的有机体不可分割——它在时空中穿行，每时每刻都被其需求、恐惧和欲望所塑造。在无时间的数学空间中发生的功能性信息处理，与人类活生生的智能如此完全不同，以至于把它称为“智能”就完全歪曲了其本质。“人工智能”是一个后果严重的用词不当。
1980 年，哲学家约翰·塞尔提出了一个如今已成为经典的思想实验“中文房间”，表明可理解的输出本身并不表明主观理解的存在。它们只是表明功能被正确执行。大型语言模型也是如此。过去 50 年心灵哲学的结论，没有任何内容需要根据人工智能可解释性的新“发现”加以修正。
说计算机“思考”根本是不真实的。人类在使用计算机思考。
除了人工智能系统的自我报告之外，没有人工智能主体性的“证据”。但人工智能的自我报告，并不比鹦鹉说出的人类话语更能说明鹦鹉的内心生活，同样也不能很好地说明大型语言模型的“内部”。解决问题、计算和信息处理并不等同于真正的“智能”。说计算机“思考”根本是不真实的。人类在使用计算机思考。
鉴于缺乏正面证据，举证责任完全在于支持这一新论的一方。该行业希望“让问题保持开放”，这应当促使人们追问究竟还有什么在发生。
要理解这些新技术，客观性至关重要。这意味着哲学、神学和人文学科需要强有力的独立性。但随着人工智能公司与大学和知识分子建立关系，这一点正受到威胁。在经历了几十年的边缘化和被认为无关紧要之后，学者们可能没有注意到，他们正被一台精密的公关机器收编。他们对于增加思想可信度、预先为人工智能公司抵御批评很有用处。凭借所掌握的资源，人工智能行业可以收买任何它想要的人——如果不是用真正的货币，那就是用对知识分子来说更有价值的商品：影响力、声望和认可。
这种收编的一种形式，是让学术对话的焦点持续停留在大型语言模型的道德和形而上学地位上。这本身就成问题，而且还带来巨大的机会成本。更重要的是研究不同大型语言模型设计对用户的影响。模型越被设计得看似活物或人，用户在决定如何与它们相处时的自主性就越少。结果是越来越多的一代人把聊天机器人当作最重要的倾诉对象，这让他们同时变得更孤独、更依赖公司的产品。
《Magnifica Humanitas》真正高明之处，在于它邀请人们干脆换个话题。这封信的副标题是“论在人工智能时代守护人”。教宗良的主题不是人工智能本身，而是人性，包括其一切破碎与美好。他写道：“我们必须以爱守护赋予我们的崇高人性……任何机器都无法取代其光辉。”
在其 42000 个单词中，只有一小部分专门讨论机器意识问题。我听到一些人批评该文本未能足够具体地说明人工智能究竟是什么，未能给出一个精确定义。但关于定义的争论——善意的学者很容易被卷入其中——会分散人们对一些更令人不安议题的严格审视，例如人工智能对人类和地球的影响。
教宗良抵制了将一种技术类型化的诱惑。相反，他依据一个核心直觉来辨识我们的时代：人类不可替代、不可化约的价值。这正是指导天主教社会训导的道德愿景。它最好被描述为“整全人文主义”：重要的是每一个人、完整的人以及所有民族。
“技术从来不是中立的，”教宗良警告说。它促进某种对人性意义的理解，一种人类学，这种理解被设计和营销它的人的假设植入其中。在科技行业，这或许可称为一种“计算机人类学”，它抹去了人与计算机之间任何真正的区别。
计算机人类学在硅谷盛行，并得到超人类主义意识形态的支持：这种梦想超越我们的人性，抛下我们过于脆弱的身体和看似平凡生活的局限。对那些受此类意识形态影响的人来说，人工智能凭借其纯粹力量，似乎比我们软弱且易犯错的人性更具无限吸引力。
但教宗良写道：“任何计算系统，无论多么精密，都无法创造出一颗奉献自己的心，或一个能分辨善恶的良心。”正是我们的有限和脆弱，使我们向彼此和超越者保持开放。我们人性的壮丽，与这种荣耀与脆弱的结合密不可分。
《Magnifica Humanitas》与它的开创性前作——教宗方济各关于生态危机的训导《愿祢受赞颂》（Laudato Si’）——一样，是一种文化批判，后者对促成《巴黎气候协定》发挥了重要作用。两位教宗有着同样的深层关切：如果我们不另作决定，我们的技术将放大一种暴力、不公正和剥削的政治经济。人工智能运行在庞大且极具破坏性的物理基础设施之上。它是一种新的、致命有效的榨取主义，开采人类心智、语言和地球本身。与此同时，它表面上的虚无缥缈，使其对人和自然的剥削变得不可见。
这就是我们这个时代两大挑战——人工智能与生态危机——之间隐藏的交汇点。在两者背后，是良所称的“权力文化”，它把自然和人仅仅视为原材料。
我们不应思考人工智能本身，而应思考它的影响。它集中权力；它模糊问责；它进一步掠夺自然和气候；它是一种为了巨额利润而大规模剥夺文化、语言和土地的手段；而且它很可能让我们更孤独、更愚蠢。
我没有去旧金山。在这个时刻，我们最需要的是自由人类心智的人文智慧。这是学者和信仰领袖对人工智能行业保持强烈独立性的时刻。
卡莫迪·格雷是荷兰拉德堡德大学整全生态学教授，也是伦敦政治经济学院客座教授。
抢先了解我们的最新报道——请在 Instagram、Bluesky 和 X 上关注 FT Weekend，并注册订阅每周六早间的 FT Weekend 新闻通讯。
回应信函：对 Claude 聊天机器人名字的进一步思考 / 来自英国伦敦 E14 的鲍勃·约翰斯通
将克劳狄乌斯的口吃与 Anthropic 聊天机器人联系起来 / 来自法国东比利牛斯省瑟贝尔的帕德莱格·鲁尼
机器意识令人不安的词汇 / 来自西班牙马德里弗朗西斯·培根辩论学会主席、Brethil Investment 首席执行官、AIXI 安全实验室顾问扬·法雷尔
发布时间
75 天前
2026-07-25 04:00:27 UTC
源站更新
47 天前
2026-08-22 00:10:06 UTC
首次抓取
51 天前
2026-08-18 08:32:45 UTC
哲学家兼神学家卡莫迪·格雷解释拒绝 Anthropic 邀请的原因，批评 AI 行业以“智慧传统合作”收编人文学科，并借教宗文件呼吁把焦点从机器意识转向人类、权力与环境影响。
作者以神学家和哲学家身份受邀前往 Anthropic，但未成行。她表示 Anthropic 提出与“智慧传统”建立研究伙伴关系，以“帮助塑造 AI 系统的道德形成”，并在牛津向师生称 AI 前沿不在计算机科学而在道德与灵性反思。作者更想讨论用户、成瘾、去人性化、权力与问责，而非 Claude 是否具有地位或意识；她感到对方对 Claude 的迷恋如同皮格马利翁。Anthropic 联合创始人克里斯·奥拉在教宗良的《Magnifica Humanitas》发布活动上强调教会等道德社群的作用。
《Magnifica Humanitas》的特殊之处在于它延续了自 1891 年《新事》通谕以来的天主教社会训导传统，代表全球约 17.8% 人口的稳定道德推理，并将 AI 伦理置于人类生命目的这一更深取向之下，而非局限于功利主义、康德式或美德伦理。文件真正的高明之处是邀请人们转换话题：其主题不是 AI 本身，而是人性及其不可替代的价值。它仅以少量篇幅讨论机器意识，并警告技术从非中立，会嵌入某种“计算机人类学”，将人与计算机混为一谈，背后是超人类主义意识形态。
作者批评 Anthropic 并非公共利益机构，而是销售产品的公司。其“AI 可解释性”研究声称发现 Claude 的“内省”和“功能性情绪”，但作者认为这是误导：拟人化 AI 更容易被信任和营销，连“Claude”这个名字都具有情感共鸣；机器学习借用神经元、训练、生物学等语言，但大语言模型没有生物性，也没有主观感受。她援引塞尔的中文房间论证说明，输出并不能证明主观理解，计算机并不“思考”，主张机器意识一方的举证责任。
她担心 AI 公司以影响力、声望和认可收编人文学者，把学术讨论锁定在大语言模型的道德与形而上学地位上，而忽略了更重要的研究——不同设计对用户的影响。她认为 AI 是一种新型采掘主义，开采人类心智、语言和地球，并与生态危机共享“权力文化”根源；它集中权力、模糊问责、破坏自然与气候、使人更孤独更愚蠢。因此作者拒绝前往旧金山，呼吁学者和信仰领袖对 AI 行业保持独立。
Philosopher and theologian Carmody Grey explains why she declined Anthropic's invitation, arguing that AI labs co-opt the humanities and that the real questions concern human power, accountability, and harm rather than machine consciousness.
用于追踪这条内容的来源与记录标识。
