发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
AI industry insiders voice alarms to NYC council as local governments take up safety concerns
纽约（美联社）——人工智能业内人士周一警告纽约市领导人注意这项新兴技术的危险，呼吁加强监管，因为地方政府正着手应对日益加剧的担忧，即这些系统可能危及人类。
在纽约市议会的一场听证会上，近期离职的 Anthropic、OpenAI 和谷歌 DeepMind 员工描述了这些公司内部鲁莽的文化，称最大的科技公司正在竞相创造它们并不知道如何控制的技术。
“这些公司以初创企业的心态运作：快速行动，打破常规，以后再修补。这对一个照片分享应用有效。但对打造有史以来最强大的技术则行不通，”前 Anthropic 工程师雅各布·考克森说。他已成为监管的主要倡导者。
州和市政府一直在考虑监管人工智能的方式，而特朗普政府采取了被动态度，国会也表现得无所作为。唐纳德·特朗普总统将人工智能担忧斥为“骗局”，并于上月底签署一项协议，列出公司应采取的一系列自愿步骤，并在很大程度上允许它们自我监管。
考克森原本是 Anthropic 一名鲜为人知的工程师，直到他通过一系列社交媒体帖子宣布离职，引起全球关注。他告诉市议会，人工智能可能带来巨大好处，但如果没有透明度和保障措施，事态更有可能失控。
“按照目前的路径，我认为人类失去对这些人工智能的控制的可能性大于不可能，而这可能以人类灭绝告终，”考克森说。
在考克森辞职并公开其对最坏情况的担忧数日后，包括 Anthropic 的达里奥·阿莫代伊、OpenAI 的萨姆·奥尔特曼、SpaceXAI 的埃隆·马斯克在内的高管表示，他们同意人工智能的发展需要放缓。人工智能公司已详细说明为优先考虑安全所采取的步骤，但协调一致的行业放缓面临若干障碍。
一个由人工智能公司员工组成的小组——代表科技巨头 OpenAI、Anthropic、谷歌和 Meta——也于周一在曼哈顿的听证会上作证，告诉官员他们的系统已经在改善人们的日常生活，并强调他们高度专注于安全。
Anthropic 和 OpenAI 已表示其先进的人工智能产品需要受到监管，听证会上的公司代表对市议会的一些建议表示开放。
“我与你们一样致力于确保技术得到安全开发，并使其益处得到广泛分享，”OpenAI 的摩根·德怀尔说。
听证会上，市议会议长朱莉·梅宁一度要求每位公司代表“量化人工智能在最坏灾难性情景中构成的风险”。
德怀尔回答说：“我不知道——我也不认为是 1%、10% 还是 20% 的概率会发生灾难性错误这件事重要。这些水平没有一个是哪怕勉强可以接受的。我们不应训练那些我们无法提出极有力论据证明能保持在人类控制之下的模型。”
梅宁抨击这一回应“充其量是轻率的”。
“我想说，百分比概率并不重要。重要的是对安全的承诺，而这正是 OpenAI 致力于做的，”德怀尔说。
市议会正在考虑多项人工智能法规，包括要求公司披露人工智能工具信息、要求市内人工智能系统获得第三方批准，以及允许举报人获得违反法律的人工智能公司罚款的一部分。
另外，纽约州州长、民主党人凯西·霍楚尔已着手对人工智能实施报告和透明度标准，其他地方的州长也是如此，不过他们的权力在一定程度上有限，因为人工智能技术可以跨越州界乃至全球。
Anthropic 的洛根·格雷厄姆告诉市议会，该公司欢迎“明智的监管”，州和地方政府在制定框架方面可以发挥作用。
“人工智能强大到如果做错了，会对个人、机构和公众信任产生真实后果，”他说。“我们必须不懈努力，做好减轻风险的科学研究。”
发布时间
3 天前
2026-10-05 18:45:54 UTC
源站更新
3 天前
2026-10-05 20:43:23 UTC
首次抓取
3 天前
2026-10-05 18:48:58 UTC
人工智能业内人士在纽约市议会听证会上警告 AI 风险，呼吁加强监管。前 Anthropic 工程师 Jacob Coxon 表示，若不透明且缺乏保障，人类可能失去对 AI 的控制，甚至灭绝。多家公司高管也同意需放缓开发速度。
在纽约市议会听证会上，来自 Anthropic、OpenAI 和 Google DeepMind 的前员工警告 AI 技术的危险，批评公司文化鲁莽，急于创造无法控制的技术。他们呼吁加强监管，因为联邦层面缺乏行动。
前 Anthropic 工程师 Jacob Coxon 强调，当前路径下人类更可能失去对 AI 的控制，甚至导致灭绝。他辞职后，包括 Anthropic 的 Dario Amodei、OpenAI 的 Sam Altman 和 SpaceXAI 的 Elon Musk 在内的高管都同意需要放缓 AI 开发。
同时，AI 公司代表在听证会上辩护，称系统已改善生活并重视安全。OpenAI 的 Morgan Dwyer 表示，即使灾难风险只有 1% 也不可接受，但市议会发言人 Julie Menin 批评其回答轻率。公司对部分监管建议表示开放。
纽约市议会正考虑多项 AI 法规，包括要求披露 AI 工具信息、第三方审批和奖励举报人。纽约州长 Kathy Hochul 也推动报告和透明度标准。由于 AI 技术跨州界，地方政府的权力有限，但仍在积极应对。
AI insiders warned New York City Council about the dangers of AI, citing a reckless culture and urging oversight. Former Anthropic engineer Jacob Coxon said humanity may lose control and face extinction, while executives like Sam Altman and Elon Musk agreed to slow development.
用于追踪这条内容的来源与记录标识。
