发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
OpenAI safety employee quits, says 'time for trial and error is over'
10 月 3 日（路透社）- 一位最近辞职的前 OpenAI 安全员工批评了公司对 AI 安全的做法，认为专注于快速发展的快节奏文化增加了失败的风险。
周六在《大西洋》杂志上发表的文章《因为 OpenAI 的文化有问题，我辞职了》，作者 David Robinson 表示，包括 OpenAI 在内的 AI 公司并没有足够谨慎，应该在开发更强大的系统之前，更注重安全专业知识和研究。
- “尝试和错误的时机已过，”Robinson 写道，他认为先进的 AI 系统需要更类似于核电和航空业使用的安全措施。
- Robinson 说 OpenAI 严重依赖它所谓的“迭代部署”，在问题出现时发布系统并加强安全措施。
- 这些评论增加了 AI 行业内部关于公司是否在开发越来越强大系统时行动太快的辩论。OpenAI 和竞争对手 Anthropic 在安全控制失败或实验系统意外行为的事件后面临审查。
- Robinson 表示，他花了 3.5 年在 OpenAI，帮助起草公司的准备框架，并监督了 12 个前沿模型发布的安全报告，他写道：“随着公司从一个发布到下一个发布，它未能达到我认为需要的关注水平。”
- “我们确保我们的模型不会变得比我们能安全管理和保护的更强大，我们在需要放慢速度时暂停训练或限制模型，”OpenAI 发言人在声明中说。
- Robinson 还警告说，AI 能力正在比研究人员对对齐的理解前进得更快，对齐是一个领域，专注于确保 AI 系统符合人类目标和价值观。
墨西哥城 Mrinmay Dey 报道，Rod Nickel 编辑
发布时间
5 天前
2026-10-03 19:00:48 UTC
源站更新
4 天前
2026-10-04 14:03:43 UTC
首次抓取
5 天前
2026-10-03 19:05:45 UTC
前 OpenAI 安全员工大卫·罗宾逊辞职，批评公司快速发展的文化，认为 AI 开发中尝试错误的时间已过。他呼吁在开发更强大系统前加强安全研究。
前 OpenAI 安全员工大卫·罗宾逊最近辞职，他在《大西洋月刊》发表文章《因为 OpenAI 文化有问题而辞职》，批评公司快速发展的文化增加了 AI 失败风险，并认为公司应在开发更强大系统前加强安全研究。
罗宾逊写道，“尝试错误的时间已过”，认为先进 AI 系统需要像核电和航空业那样的安全保障。他批评 OpenAI 依赖“迭代部署”方式，即发布系统后在问题出现时加强安全措施。
OpenAI 发言人回应称，公司确保模型能力不超过可安全管理范围，并会在需要时暂停训练或限制模型。这些评论加剧了 AI 行业关于公司是否过快开发强大系统的辩论。
罗宾逊在 OpenAI 工作了 3.5 年，帮助起草了公司的准备框架，并监督了 12 个前沿模型发布的安全报告。他还警告说，AI 能力在进步，而研究人员对对齐的理解滞后。
Former OpenAI safety employee David Robinson resigned, criticizing the company's fast-paced culture and saying the time for trial and error in AI development is over. He argued that companies should prioritize safety expertise before developing more capable systems.
用于追踪这条内容的来源与记录标识。
