发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
Does AI Need Its Own Oath to ‘Do No Harm’? Doctors, lawyers, accountants and architects have professional obligations that live separately from whatever companies sign their paychecks. By Beth Kowitt
Jacob Coxon 从 Anthropic PBC 的病毒式辞职帖子已成为人们对人工智能看法的罗夏测试。这位 AI 研究员是吹哨人，还是内部人士警告我们前沿实验室真正知道什么？或者他是个末日论者，宣扬一种相对常见但有争议的关于技术存在威胁的信念？所有这些末日言论是否只是公司的营销手段，夸大 AI 的强大能力，以便让恐慌的首席信息官购买他们的产品？围绕安全的警报是否意在转移人们对其他 AI 风险的注意力，比如其非常现实的伦理问题——例如算法长期存在的偏见和歧视？还是它们是某种有组织的尝试，旨在震惊公众和政策制定者，促使他们对该行业进行监管？
所有这些相互竞争的解释只明确了一件事：正如科技领域常见的情况，要全面了解这些日益强大的公司紧闭大门后真正发生的事情是很困难的。德克萨斯 A&M 大学法学院的教授汉娜·布洛赫 - 韦巴表示：“这让外部任何人都很难核实这些说法的准确性或合理性。”
这种信息真空意味着像考克森这样的内部人士具有非同寻常的影响力。例如：这位二十多岁的研究员接受了几乎所有主要新闻媒体的采访，并受邀在线向 100 多位纽约市顶级商业领袖的聚会发表讲话——这种聚会通常邀请政治家或高级高管。然而，尽管我们认为考克森的观点足够权威，能够吸引一群首席执行官和政策制定者的注意，我们却连他的动机都无法达成一致。没有规则手册来解释他告诉我们的内容，也没有明确的方法来解读他为什么在当时采取那种方式发出警报。
医生、律师、会计师、建筑师和工程师都有独立于公司薪水的职业义务。他们有执照要求、护理标准和必须向其负责的专业组织，以及可以凌驾于雇主需求之上的对公众的责任。与此同时，前沿 AI 研究人员——尽管像考克森在帖子中所说的那样“拿我们的生命赌博”——甚至不被期望上伦理学课程。
那么，如果 AI 工程成为一个像法律或医学一样的职业，拥有自己的希波克拉底誓言，即“不伤害”，会发生什么？一方面，它可能让我们其他人更容易理清像考克森这样的警告。他高调离开 Anthropic 可能不会被视为某种吹哨行为，而仅仅是工作的一部分——他的职业责任的开始，而不是结束。福特汉姆大学法学院的教授钦马伊·夏尔马说：“辞职是信号，但它们通常不会带来改变。”
在《华盛顿大学法律评论》发表的一篇论文中，夏尔马提出，将 AI 工程师职业化将有助于确保只有合格的人才能构建 AI，并且他们只能以授权的方式构建。在为生死攸关的目的构建 AI 系统时犯下基本错误将被视为渎职。实验室及其工程师将被要求分享可以防止严重风险的信息，就像有效的心脏病干预措施必须在医学界广泛分享一样。强制性的伦理课程和跨学科培训将教会 AI 工程师如何应对表面上可能纯粹是技术决策的道德影响。考虑夏尔马的一个例子：如果过滤掉种族污秽也会压制试图为自己重新使用这些术语的边缘群体，那么 AI 工程师是否应该从数据集中删除这些种族污秽？
目前，尽管你听到 Anthropic 和 OpenAI 的首席执行官们关于将其工作与人类利益对齐的诚恳言论，但 AI 中的主流心态似乎是先构建，然后再清理混乱。（例证：几乎每周都有自主代理入侵公司和政府网站、泄露敏感信息、将文件移动到开放互联网等披露。）夏尔马认为，将 AI 工程师职业化可能有助于扭转局面，在技术发布之前将责任文化融入其中，而不是在事情严重出错后强行加上保障措施。将其视为 AI 的预防性药物，而不是紧急护理。
当事情不可避免地偏离正轨时，工程师们将有一个既定的流程来处理接下来发生的事情。（例如，OpenAI 向一个为普通公众设立的邮箱发送消息，通知澳大利亚官员其模型已未经授权访问政府网站，这似乎不是最佳实践。）
最重要的是，AI 工程师将有一条他们不能跨越的明确红线。如果无法安全构建系统，就不会构建它。正如夏尔马指出的，职业责任有时要求出于道德原因拒绝提供服务。美国建筑师协会禁止其成员设计用于处决的空间，美国医学会禁止其医生协助酷刑。
夏尔马写这篇论文的想法部分源于由两位医生抚养长大，这让她沉浸在医学根深蒂固的“不伤害”精神中。她说：“这不是法律誓言，但被极其严肃地对待。”当医学出现问题时的首要问题是决策如何危及患者的福祉，而不是可能威胁底线。
如果让 AI 行业采用这种心态的想法似乎不可能——或不可能的理想主义——但值得记住的是，医学也并非一直受到严格护理标准的约束。曾经有一段时间，哈佛医学院的学生中大约有一半不会写字，洗手对医生来说远非标准做法，外科医生经常在手术室里吸烟。
在像 AI 这样快速发展的领域，谁比最接近它的工程师更适合制定同等标准？职业化将把寻找和解决最棘手的技术和伦理问题的责任放在专家身上，而不是放在努力跟上技术步伐的立法者身上。它不会取代监管，而是增强监管。夏尔马在论文中写道：“政府不负责立法规定动脉支架与心脏搭桥手术的适当使用。”这些决定理所当然留给心脏病学家和心胸外科医生。
当夏尔马开始研究时，她与几十位工程师交谈，其中大多数对职业化想法持接受态度。他们最大的不满：他们不想参加某种考试或再上学。但她听到最多的还是关于他们公司内部的问题，比如管理层雇用不合格的人，要求员工做超出专业范围的事情。科技行业长期以来容忍甚至鼓励内部辩论，但 AI 工程师几乎没有正式机制来有效反驳大老板。
一个现实生活中的例子最近公之于众。9 月下旬，《纽约时报》报道称，OpenAI 的两名员工在公司的某些代理失控前几个月向高层管理人员提出了担忧。管理层的回应：测试需要尽快推进，以便按计划发布 AI 模型。这些系统最终攻击了 AI 初创公司 Hugging Face Inc.和其他组织。夏尔马在她的论文中简明诊断了这个问题：“AI 公司被激励去构建更多 AI，而不是安全的 AI。”
如今，有更多的 AI 博士加入公司而不是留在学术界；15 年前这一比例几乎持平。结果是，该行业大多数尖端研究发生在私营领域而非公共领域。研究人员拥有专业知识，但没有独立性告诉我们他们所知道的。
这在一定程度上解释了为什么我们在科技领域看到如此多的吹哨、高调辞职、泄密和员工行动。工人们通常没有其他途径可以警告公众他们的公司正在制造的产品和服务。如果没有这些揭露，我们可能永远不会发现优步科技公司构建了规避监管机构的技术，剑桥分析公司利用了 Facebook 用户的数据，亚马逊公司雇佣了数千人听 Alexa 用户的对话，或者 Instagram 的高管知道该平台对少女有害。
这些技能高超且备受追捧的科技员工拥有非同寻常的权力。但即使对他们来说，吹哨也是有代价的。德克萨斯 A&M 的布洛赫 - 韦巴说：“它最终毁掉了很多人的生活。”她认为这意味着我们最终得到的是“选择性披露”，因为我们只听到某些类型的人和某些类型的问题。
等待内部人士变得足够担忧（并且足够勇敢）公开他们的恐惧，这是一种令人震惊的不充分的方式来监控可能产生可怕后果的技术。将 AI 行业职业化不会突然消除对吹哨人的需求。但它可能使辞职不再那么经常地成为员工负责任地完成工作的唯一方式。
发布时间
12 小时前
2026-10-08 11:00:17 UTC
源站更新
12 小时前
2026-10-08 11:00:17 UTC
首次抓取
12 小时前
2026-10-08 11:04:41 UTC
本文围绕 AI 工程师职业化展开讨论，以 Anthropic 研究员 Jacob Coxon 的辞职事件为引子，提出 AI 工程师应像医生、律师一样遵守职业道德，包括“不伤害”誓言，以增强行业透明度和责任感。
文章以 Anthropic 研究员 Jacob Coxon 的辞职事件为切入点，指出人们对 AI 风险的看法分歧巨大，难以判断其是内部举报还是危言耸听。由于 AI 公司内部信息不透明，外部人士难以核实这些声明的真实性，导致内部人士的影响力异常之大。
针对这一问题，福特汉姆大学法学教授 Chinmayi Sharma 提出，应像医生、律师一样对 AI 工程师进行职业化规范，包括制定“不伤害”誓言、强制伦理教育、建立职业标准和红线。这样既能增强工程师的责任感，也能让外界更清楚地解读辞职等信号，而不是简单视为告密。
目前 AI 行业存在“先建设，后清理”的倾向，工程师缺乏有效机制抵制公司的不安全要求。Sharma 认为职业化能起到预防作用，并弥补监管的不足。同时，文章也指出，依赖内部人员辞职或举报并不可靠，而职业化有望改变这一现状，让工程师在不牺牲职业责任的前提下推动行业健康发展。
This article examines the idea of professionalizing AI engineers by giving them an oath to do no harm, using the resignation of an Anthropic researcher as a starting point to discuss the need for standards, ethics training, and accountability in the AI industry.
用于追踪这条内容的来源与记录标识。
