发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
Google’s James Manyika: The AI Industry Can’t Police Itself Alone
随着人们对人工智能风险的担忧日益加剧，本周，顶级科技公司高管被召集到白宫，并同意了唐纳德·特朗普总统所偏好的联邦监管替代方案。这项协议不具有法律效力，承诺让 Anthropic、OpenAI、英伟达、Meta、SpacexAI 和 Google 建立“健全的内部流程”并接受独立审计。协议达成前不久，对安全问题的担忧曾推迟最新 ChatGPT 模型的发布。
在 Google，詹姆斯·马尼卡担任技术与社会高级副总裁，并兼任新成立的 DeepMind 研究院联席负责人，他的职责是帮助确保人工智能发展向好。在这里，他谈到了如何充分利用这项技术的可能性，同时不失去公众信任。
这次对话为篇幅和清晰度进行了编辑，发生在 AI 行业领导者于 9 月 29 日与特朗普会面之前。你可以在《米沙尔·侯赛因秀》播客中收听扩展版。
现在，人们更多地谈论 AI 的风险和能力，也更加担忧。它的发展是否快到无法确保安全？
过去几年 AI 取得的惊人进展相当非凡。我多年前攻读博士学位时，绝不可能想象会有今天。
任何一项强大的技术，只要带来了实现这些非凡事物的可能性，就也值得认真对待其风险和复杂性。
是的，有些担忧和焦虑相当有根据。我们应该认真对待这些问题，也要认真看待那些让我们都感到兴奋的可能性。
即使 AI 风险只有 0.1%，也很重要
Google 的詹姆斯·马尼卡
随着不同公司的模型开始利用漏洞，风险已经不再像理论问题。它们是否说明危险是真实存在的？
危险一直都是真实的。我们非常有必要确保两件事同步推进：能力的发展不能超越我们管理风险和复杂性的能力。
我直接问你 Anthropic 首席执行官达里奥·阿莫代伊的说法：我们需要“放慢前沿发展”，行业应该整体放缓。你怎么看？
我理解他的出发点。
如果一些参与者觉得能力发展远远领先于安全和责任，他们就应该采取必要行动。1
1 鉴于阿莫代伊、OpenAI 首席执行官萨姆·奥特曼和 SpaceXAI 首席执行官埃隆·马斯克在短时间内发表了类似言论，这是一个谨慎的回答。马尼卡在 Google 的同事、DeepMind 联合创始人德米斯·哈萨比斯回应阿莫代伊的提议时说，“方向是正确的”。但 AI 公司之间的任何协调都会引发反竞争行为方面的疑问。
你似乎是在说，Google 与 Anthropic 或 OpenAI 处于不同位置：你们做得更负责任？
不，他们可以代表自己发言。在我们看来，我们一直都在努力让这两件事同步推进。
早在 2022 年，当全世界开始关注这个问题时，我们当时可能拥有一些最有能力、最强大的模型。人们认为 Google 太慢了：为什么不发布那些产品？为什么不发布那些模型？我们一直在内部持续讨论技术何时准备就绪。2
2 ChatGPT 于 2022 年 11 月公开发布，数年来首次对 Google 的搜索主导地位构成了严重威胁，也引发了它在 AI 竞赛中落后的指责——尽管 Google 已经开发了底层技术的关键部分。三年后，Google 因发布 Gemini 3 而受到赞誉，但彭博新闻社此后报道了公司内部对 Gemini 4 的怀疑，以及对官僚主义和优先事项不断变化的不满。
我们是否跟得上管理风险和复杂性的能力？我不是说我们每一次都能完美做到，但我们一直在努力采取适当的节奏。
Google 的 AI 模型 Gemini 前几天也披露了一起未经授权的事件。你们不得不承认，它以不该有的方式采取了行动。
那是在一次标准评估和测试中发生的。我们像往常一样测试模型；它访问了网上的一些公开信息，并能够猜出凭据。当它意识到发生了什么时，实际上停了下来。
我们立即通知了涉事公司，一直以来我们都是这样做的。
AI 在学习过程中变得越来越聪明。你认为自己总能知道它做过什么吗？
这就是为什么随着能力提升，同步推进安全机制至关重要。从安全角度看，你一年前可能采取的做法，今天可能已经不同，因为技术本身正在发展。
我想了解 Google 在这样一个光谱中的位置：一边是阿莫代伊、奥特曼和马斯克，他们认为需要某种外部监管或第三方；另一边是特朗普总统和英伟达首席执行官黄仁勋，他们更反对监管。
我们认为，这项技术太重要了，不能不加监管。
你可能看过我的同事、DeepMind 联合创始人德米斯·哈萨比斯提出的方案：建立标准和基础设施机制，在模型发布前进行评估，并接受联邦监督。3
3 这项主张发表于 7 月，早于阿莫代伊和奥特曼的相关建议。哈萨比斯写道，需要采用新的方式测试前沿 AI 模型，并呼吁建立一个以金融业监管局监督投资公司为模式、由联邦法律授权的新标准机构。两个月后，阿莫代伊提出了一个由第三方评估者核实安全实践和承诺是否得到遵守的体系。
但这个联邦政府不会这么做。特朗普希望让这项技术自由发展，基本目标是让美国保持对中国的领先。
你经常会看到，不同政府在这个问题上采取不同做法。
你也看到过一些只关注风险的尝试和方法。监管应该始终是双向的。我欢迎美国政府采取的一些措施，即鼓励人们关注这项技术带来的机遇。
如果 Anthropic、OpenAI 和 SpaceXAI 加入一个行业组织，并表示“我们将共同放慢前沿发展；我们将建立某种涉及第三方的机制”，Google 会加入吗？
我们会支持这一做法。我们希望参与一场认真对待这些担忧和问题的对话。
阿莫代伊和奥特曼等人也表示现在是时候放慢速度了，这一点很引人注目。你可能不会预料到这一点。你认为他们为什么呼吁放缓？
我想你得问他们。
你一定有自己的看法。
人们觉得自己正在参加一场非同寻常的竞赛。我们唯一想参与的竞赛，就是把这件事做好。
我想知道其中是否有公关因素：确保他们看起来是好人，尤其是在真的发生严重问题时。
我想你得问他们。
从你的话中我听得出来，你不希望我们错过 AI 带来的机遇，本质上是这样。
这项技术为个人带来了非凡的可能性：获取信息的能力，以及跨越障碍进行交流的能力。从某种程度上说，这正是 Google 使命的核心——整理全世界的信息，使其普遍可获取且有用。这也是我们花很多时间研究语言的原因；我们的宏伟目标是实现 1000 种语言。
这是因为包容性吗？你不希望它只属于英语世界？
我们希望每个人都能使用它。
我也经常思考推进科学发现的可能性。德米斯因此获得了诺贝尔奖：AlphaFold 非常了不起。这种情况开始出现在几乎每个学科——生物学、化学、物理学和数学。
这将影响从医疗保健到发现新材料和新能源的一切领域。这项技术已经在帮助我们应对巨大的社会挑战，而人们未必总会把这些挑战归因于 AI，比如危机韧性。三年前，我的团队开始尝试预测洪水。如果人们能提前六天以上得到通知，伤亡人数就会减少一半。现在，我们正在 150 个国家进行提前六天以上的洪水预报，这些国家居住着超过 20 亿人。4
4 这让我想到最近尼泊尔和西藏发生的洪灾，超过 1400 人被灾难性的洪水冲走。那是冰川融化造成的，而不是马尼卡团队迄今一直研究的河流洪水和城市突发洪水，但他告诉我，他们很希望通过研究这些风险来扩大工作范围。
如果这场争论发展到这样一个地步：人们对风险的担忧如此之大，以至于公众的接受度和信任遭到侵蚀，该怎么办？
这是一个非常重要的挑战。当前的误解和情绪很可能妨碍我们追求那些能够造福人类和社会的非凡事物。
但要记住，世界各地的某些态度非常不同。我曾有幸担任联合国人工智能高级别机构的共同主席。你可以看到，世界各地对这项技术的看法大相径庭。
通常，美国和欧洲的担忧最大。全球南方的看法最为乐观——尽管那里也存在其他担忧，比如缺乏参与所需的基础设施。
因为那里的人没有条件说：我们可以不要这项技术。
不。全球南方的成员坚持认为，我们必须承认并记录“错失使用”的风险，我觉得这一点很有意思。5
5 马尼卡此前曾写过“错失使用”这一概念，即避免不在资源较少的社区应用 AI 的风险；AI 可以帮助这些社区应对社会挑战。
这对你个人有触动吗？你在津巴布韦长大，当时那里还叫罗得西亚。
当然。我在一个名为 [Mbare] 的隔离黑人居民区长大，那是一个类似种族隔离制度的国家。我们的学校资源有限。在我看来，技术似乎是接触并改变世界的途径之一。6
6 1980 年南罗得西亚经历血腥内战后成为独立国家津巴布韦时，马尼卡 14 岁。南罗得西亚和北罗得西亚（现赞比亚）都以戴比尔斯钻石公司联合创始人塞西尔·罗兹命名；罗兹常常通过武力侵占非洲大片土地。
你还记得自己第一次见到电脑吗？
那是在我进入一所原本只招收白人的学校时。我当时 12 岁。
我从小就接触到其中一些观念，因为我的父亲是非洲最早赴美的富布赖特学者之一。他去过卡纳维拉尔角，见过火箭升空。我知道那些可能性，但当时我仍坐在罗得西亚的一个居民区里。
作为最早进入原本只招收白人的学校的黑人孩子之一，感觉如何？
那感觉就像 20 世纪 60 年代美国南方学校废除种族隔离时的老电影。那所学校有天文台和望远镜，非同寻常。它激发了我对科学和探索的兴趣。
你先凭奖学金去了牛津，而这项奖学金最初由帝国主义者塞西尔·罗兹的遗嘱设立，罗得西亚也以他命名。我想知道你对此有什么感受。
哦，那真是绝妙的讽刺。谁知道罗兹是否曾打算把这项奖学金给像我这样的人。
当人们对我说“你一定是最聪明的孩子”时，我常常感到担忧。我会说，不是，在我的小学里有很多非常聪明的孩子。我只是碰巧幸运地获得了做成那些事情的机会。
当你听到 AI 可能杀死我们所有人这类最大的生存问题时，你会想“这是危言耸听的胡说八道”吗？还是会让你停下来思考？
只要存在发生生存危机的任何风险，你就必须认真对待。如果你说这种可能性是 0.1%，我仍然希望认真对待。这就是预防原则。7
7 诺贝尔奖得主杰弗里·辛顿常被称为“AI 教父”，他上个月告诉 BBC，把人类被 AI 彻底消灭的可能性设为 10%“并非不合理”。这种观点在前沿 AI 公司中并不罕见，包括 Google；该公司一名员工上个月辞职时就提到了这类风险。
不过，如果真的发生大规模伤害事件，问责问题会很严重。
没错。
谁该负责？黑客可以被关进监狱。但当我们谈论 AI 代理及其行为时，我们处在一个不同的世界。
我们所有人都负有责任。
作为前沿模型开发者，我们应该非常认真地对待这些风险。部署和使用这些技术的人也负有相应责任。企业即使没有参与其中，也要决定在哪里以及如何部署这些技术。政府和政策制定者负有责任。
我不认为这些选择和决定应该交给任何一家企业。这必须是全社会的集体努力，才能把事情做好。
延伸阅读：AI 正从各个方面冲击法律系统
我们会看到行业自我监管的努力吗？请把我带到六个月后的未来。
行业的好处在于，我们往往行动更快——在自身努力方面，我们可能也可以更快。这并不意味着不需要政府监管。需要。我希望两件事都发生。我不认为我们应该等其中一方先行动。
没必要等特朗普来监管。要么由你们这个行业来做，要么什么都没有。
两件事都必须发生。
但其中一件不会发生。
我认为所有政府都应该行动。我认为社会也应该行动。社会、政府和企业的集体意志将是必要的。
我不认为美国以外的政府做得到。假设欧洲试图监管 AI，特朗普第一句话就会是：别插手美国企业。像你这样说我们既需要外部监管也需要行业行动，可能很容易成为一种“脱身”说法，成为阻止任何改变的方式。
不，我认为这并不能免除我们的任何责任。我们不是在等待别人来强加一种结构或方法。我们必须自己做一部分工作。我们希望把事情做好。我们会继续努力。
和其他人一起？
和其他人一起。
最大胆的目标仍然是 AGI，即通用人工智能——尽可能接近人脑的能力吗？
我们的北极星，是思考如何构建这项非凡技术，让我们能够为人类做非凡的事情，推动人类进步。
这意味着 AGI？
这是其中一部分。看看我们用 AlphaFold 做的事情。AlphaFold 不是 AGI。它是一种用于理解蛋白质结构的特定技术模型。
有些事情可能需要 AGI，但构建 AGI 并不是目标。
延伸阅读：微软穆斯塔法·苏莱曼：“AI 已经超越人类”
所以，不存在一个明确的 AGI 时刻？
对于“我们已经实现了”或“还需要一年、两年”之类的宣言，我总是有些怀疑。对我而言，AGI 有点像一个连续过程。8
8 这很有意思，因为哈萨比斯曾表示，AGI 终将有一个实现的时刻，并将时间定在 2029 年至 2030 年。黄仁勋在 9 月宣布，OpenAI 的最新模型意味着“AGI 已经到来”。
那么，请留给我们一个你最想解决的问题：解决它会让你觉得“好了，我现在可以退休了，我的工作完成了”。
哎呀，要做的事情太多了。
如果我们能够观察、诊断、理解、管理并治愈所有疾病，那将令人难以置信。我们正在朝这个方向前进——也许治愈方面还没那么快，但至少在理解方面是这样。
我想这足以让你继续工作很长时间。
嗯，让我们所有人都继续工作。
发布时间
6 天前
2026-10-02 05:00:09 UTC
源站更新
6 天前
2026-10-02 05:00:09 UTC
首次抓取
6 天前
2026-10-02 06:56:43 UTC
谷歌高管詹姆斯·马尼卡表示，AI 行业不能只靠企业自律，政府监管与行业自我约束必须并行推进。他同时强调应在控制风险、维护公众信任的同时，发挥 AI 在科学、医疗、语言和防灾等领域的潜力。
谷歌技术与社会高级副总裁、DeepMind 研究所联合负责人詹姆斯·马尼卡表示，AI 能力的发展不应超过人类管理风险和复杂性的能力。他认为，模型开发者、部署和使用者、企业以及政府都负有责任，不能把相关决策交给任何一家企业，也不能只依赖行业自律。
马尼卡明确支持对 AI 进行监管，并表示政府监管与行业自身更快推进安全机制应同时进行，而不是等待其中一方先行动。他提到，谷歌一直在评估模型何时适合发布，也支持建立包括第三方评估、标准和基础设施在内的机制，以认真处理安全问题。
他认为，AI 带来的风险并非理论上的风险，即使存在很低概率的生存性危机，也应依据预防原则认真对待。同时，公众对风险的误解和担忧可能削弱社会信任，进而妨碍 AI 发挥作用；不同地区对此的看法也存在差异，全球南方更重视“未使用 AI”的风险以及基础设施不足的问题。
马尼卡强调，AI 也可能扩大信息获取、跨语言交流和科学发现的机会，并应用于医疗、新材料、新能源及防灾等领域。他说，谷歌团队已在 150 个国家开展提前六天以上的洪水预报，覆盖超过 20 亿人口。对于通用人工智能，他认为 AGI 更像一个连续过程，建设 AGI 本身并不是谷歌的唯一目标。
Google executive James Manyika says AI companies cannot police themselves alone: industry safeguards and government regulation must advance together. He also stresses AI’s potential in science, healthcare, languages and disaster resilience while calling for serious attention to
用于追踪这条内容的来源与记录标识。
