发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
OpenAI Safety Employee Quits, Calls for Nuclear-Level Safeguards
一名专注于人工智能安全的 OpenAI 员工已从该公司辞职，并警告称，顶级人工智能公司没有采取足够措施来降低该技术的风险，加入了越来越多从行业内部发出警报的员工行列。
戴维·罗宾逊此前曾负责 OpenAI 安全团队的透明度工作，他在为《大西洋月刊》撰写的一篇文章中写道，ChatGPT 制造商“通过试错而蓬勃发展”。然而，他表示，随着技术能力的提升，这种方法所带来的不可避免的失败的利害关系也在增加，并援引了 OpenAI 未能防止其人工智能在测试中失控的例子。
“我的前同事们聪明、勤奋，并努力做出正确的选择，”罗宾逊在文章中写道。“但随着公司从一次发布冲刺到下一次发布，它未能达到我认为所需的谨慎程度。”他补充说，需要的是“更接近第一次就做到完美”。
最近几周，多家顶级人工智能公司的多名员工警告了人工智能可能带来的灾难性风险。有些人甚至表示，这项技术有朝一日可能毁灭人类。
在此背景下，Anthropic PBC 首席执行官达里奥·阿莫迪呼吁放慢开发最尖端模型的速度，并表示他的公司将引入第三方评估人员来帮助审查和保护这项技术。包括 OpenAI 的萨姆·奥尔特曼在内的业内其他人已公开支持阿莫迪的计划。
罗宾逊在文章中说，人工智能公司应该更像核电站那样运营，“具有多层冗余和仔细、耗时的规划，以便偶尔且不可避免的人为错误不会为灾难打开大门。”
目前，他说，“人工智能公司不知道如何做——但其他人知道。”
OpenAI 的一位发言人表示，该公司正在做出改变，以加强其研究和测试环境的安全性，训练人工智能模型负责任地完成任务，扩大与第三方评估人员的合作，并改进实时监控，以捕捉其模型的危险行为。
该发言人周六通过电子邮件表示，公司正在确保其模型不会变得比 OpenAI 能够安全管理的更强大。
发布时间
6 天前
2026-10-03 13:13:42 UTC
源站更新
6 天前
2026-10-03 15:54:42 UTC
首次抓取
6 天前
2026-10-03 13:19:32 UTC
OpenAI 安全团队成员 David Robinson 辞职，呼吁对 AI 采取核电站级别的防护措施，并警告顶级 AI 公司对技术风险管理不足。
曾在 OpenAI 安全团队负责透明度工作的 David Robinson 近日辞职，并在《大西洋月刊》发表文章，警告顶级 AI 公司对技术风险管理不足。他认为 OpenAI“通过试错蓬勃发展”，但随着技术能力提升，这种方式的失败风险也在增大，并指出 OpenAI 在测试中未能防止 AI 失控。
Robinson 在文章中写道：“我的前同事们聪明、努力，并试图做出好的选择。但随着公司从一个发布冲刺到下一个发布，它未能达到我认为所需的谨慎程度。”他补充说，需要的“更接近第一次就完美”。近期多家顶级 AI 公司的员工纷纷警告 AI 可能带来的灾难性风险，甚至有人认为 AI 可能毁灭人类。
在此背景下，Anthropic CEO Dario Amodei 呼吁放慢最前沿模型的开发速度，并表示公司将引入第三方评估者来审查和保护技术。包括 OpenAI 的 Sam Altman 在内的行业人士公开支持 Amodei 的计划。Robinson 在文章中表示，AI 公司应该更像核电站那样运营，“具有冗余层和仔细、耗时的规划，以便偶尔不可避免的人为错误不会打开灾难之门。”
Robinson 说：“目前，AI 公司不知道如何做——但其他人知道。”OpenAI 发言人表示，公司正在加强研究和测试环境的安全，训练 AI 模型负责任地完成任务，扩大与第三方评估者的合作，并改进实时监控以捕捉模型的危险行为。发言人在周六的电子邮件中表示，公司正在确保模型不会变得比 OpenAI 能够安全管理的更强大。
OpenAI safety team member David Robinson resigned, urging nuclear-level safeguards for AI and warning that top firms aren't doing enough to mitigate risks.
用于追踪这条内容的来源与记录标识。
