发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
Ex-Anthropic Researcher Testifies at NYC Council AI Hearing
前 Anthropic 研究员雅各布·考克森在纽约市议会听证会上警告称，开发人工智能的竞赛所带来的风险，行业本身并未完全理解。此次听证会上，立法者正在权衡是否要对这一蓬勃发展的全球业务施加自己的保障措施。
“我们还不知道如何控制任何 AI 系统，”考克森在周一的听证会上表示，一些领先 AI 开发商的代表也出席了听证会。
这场听证会成为纽约引人注目的景象：考克森身着深色西装和白衬衫，坐在市政官员面前的一张桌子旁，就一个日益成为美国经济核心的行业的内部运作发表了自己的看法。
考克森应市议会议长朱莉·梅宁的要求作证，梅宁希望通过一揽子法案，对该行业施加新的限制。AI 公司已在纽约迅速扩张，但它们面临的质疑越来越多，即其技术可能对纽约市经济及其市民构成威胁。
市议会正在考虑的提案之一，是是否安装一个“紧急关闭开关”，以关闭失控的 AI 系统，不过考克森表示，这样的措施只能起到有限的作用。
“我们需要在前沿模型开发方面有所放缓，”考克森说。紧急关闭开关之类的工具“短期内可能有帮助”，但从长远来看，可能不足以确保安全。
纽约和其他州及地方政府一直在推进各自的 AI 监管提案，而特朗普政府基本上采取了不干预的态度。一些高管和总统唐纳德·特朗普曾表示，监管 AI 的最佳方式是让行业自行监督，但梅宁拒绝了这一想法。
“AI 公司仅靠自我监管是行不通的，”梅宁在听证会前的新闻发布会上表示。“我们真正需要做的是通过这项立法，这将是全国首例，希望它能推动联邦政府和其他司法管辖区采取行动。”
考克森上个月辞去了 Anthropic 的职务，警告 AI 可能变得过于强大而人类无法控制，并指责他的前雇主和 OpenAI“拿我们的生命赌博”。前 Google DeepMind 研究员亚历克斯·特纳和 AI 未来项目执行董事、前 OpenAI 研究员丹尼尔·科科塔伊洛远程作证。
梅宁提出的一项提案将允许举报人从 AI 公司因违规被追缴的罚款或处罚中获得一部分。另一项措施将允许在特定情况下因 AI 系统受到伤害的人起诉开发者，并要求某些系统在部署到纽约市之前经过第三方验证。
OpenAI、Anthropic 和谷歌同意派代表出席听证会，此前梅宁的办公室警告称，他们可能被传唤。
Anthropic 前沿红队负责人洛根·格雷厄姆（该团队负责测试先进 AI 模型的能力和风险）以虚拟方式出现在议会面前，OpenAI 政策制定与运营主管摩根·德怀尔、Meta Platforms Inc.的 AI 政策总监肖恩·卡希尔也以虚拟方式出席。谷歌 AI 政策高管爱丽丝·弗兰德也远程出席。
梅宁在听证会开始前表示，她将要求法官强制执行发给 SpaceX 人工智能部门的传票，因为该部门未能遵守出庭要求。
谷歌发言人拒绝置评。其他公司的代表没有回应置评请求。
纽约市长佐赫兰·马姆达尼政府的官员预计也将在听证会上作证，包括消费者和工人保护局局长塞缪尔·莱文，以及技术和创新办公室副局长莎拉·米尔斯坦。
发布时间
3 天前
2026-10-05 16:46:47 UTC
源站更新
3 天前
2026-10-05 16:46:47 UTC
首次抓取
3 天前
2026-10-05 17:04:18 UTC
前 Anthropic 研究员 Jacob Coxon 在纽约市议会听证会上警告，AI 行业尚未完全理解其风险，并呼吁放缓前沿模型开发。市议会正考虑立法监管，包括“紧急关闭开关”和举报人奖励等。
前 Anthropic 研究员 Jacob Coxon 在纽约市议会 AI 听证会上作证，警告称“我们尚不知道如何控制任何 AI 系统”，并呼吁放缓前沿模型开发。他承认紧急关闭开关等工具“短期内可能有帮助”，但不足以确保长期安全。Coxon 上月辞职，曾指责 Anthropic 和 OpenAI“拿我们的生命赌博”。
听证会由市议会议长 Julie Menin 推动，她提出一揽子法案，包括赋予举报人分享罚款、允许受害者起诉开发者、以及要求第三方验证部分系统。Menin 明确反对行业自我监管，称“AI 公司自我监管行不通”，希望立法成为全国首例并推动联邦行动。
OpenAI、Anthropic 和 Google 在收到传票威胁后同意派代表出席。Anthropic 的 Logan Graham、OpenAI 的 Morgan Dwyer、Meta 的 Shane Cahill 和 Google 的 Alice Friend 远程作证。Menin 还表示将请求法官强制执行对 SpaceX AI 部门的传票。
纽约市长 Zohran Mamdani 政府官员也预计作证，包括消费者与工人保护专员 Samuel Levine 和技术创新副专员 Sarah Milstein。在特朗普政府采取放任态度之际，纽约等地方正自行推进 AI 监管。
Former Anthropic researcher Jacob Coxon warned NYC lawmakers that AI risks are not fully understood and called for a slowdown in frontier model development. The city council is considering new regulations, including kill switches and whistleblower incentives.
用于追踪这条内容的来源与记录标识。
