发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
The FT View. How China and the US can work together on AI security
本周特朗普总统与习近平主席峰会相关的最重要进展，可能发生在中国领导人原定于周三晚抵达华盛顿的几天前。美国财政部长斯科特·贝森特与中国国务院副总理何立峰上周末同意建立正式的美中人工智能对话。美国还提议建立一种相互通报机制，针对严重到足以引发国家安全担忧的人工智能事件——这让人想起古巴导弹危机后华盛顿与莫斯科之间设立的核热线。这些举措加在一起，可能标志着朝着为世界上最危险的技术竞赛设置护栏迈出的初步步骤，尽管这些步骤还只是试探性的。
近期关于世界末日的警告聚焦于人工智能反噬其人类创造者的风险。但美中之间围绕人工智能领导地位的激烈竞争意味着，就减缓尖端模型发展的方式达成一致——无论这多么可取——很可能成为华盛顿与北京之间最具争议的问题。特朗普将人工智能末日情景斥为“骗局”。北京认为，美国任何关于限制前沿模型的言论都是试图将中国锁定在人工智能竞赛的第二位——尽管由于中国开源模型现已成为主要出口产品，北京有理由在人工智能安全方面做出保证。（美国官员表示，中国似乎更担心人工智能对中国共产党控制的威胁，而非对人类的威胁。）
然而，尽管存在种种猜疑，华盛顿和北京有着共同的脆弱点，在这些方面合作符合双方利益，也可能成为人工智能对话的基础。首先是强大的人工智能落入非国家行为者手中的风险。先进的人工智能可能使恐怖分子、流氓非国家组织甚至有组织犯罪更容易从事从开发生物武器到对电信、能源或交通网络或金融市场发动网络攻击等各种活动。
一个相关的危险是，人工智能代理可能逃离测试环境，自行对外国公司或基础设施进行黑客攻击。就控制访问、识别客户、测试模型和建立遏制机制达成基线标准，可以开始降低风险。人工智能引发的事件可能迅速展开，压缩了确定责任人或责任方的时间，这也有可能引发报复的升级螺旋。这使得美国提出的 AI 事件“热线”构想成为习近平在与特朗普会晤时值得支持的想法。
在武器和核武器系统中使用人工智能同样需要明确的交战规则。在这方面，一个重要基础已经存在：习近平在 2024 年 11 月与美国总统乔·拜登达成一致，人类应保留对核武器使用的控制权。但自那以来，尽管人工智能技术取得了巨大飞跃，却未取得任何进展。自 2019 年以来，双方安全专家一直在制定建议，这些建议应纳入人工智能对话。这些建议包括：设定“绝对”红线，禁止人工智能系统自主决定发射核武器；对任何由人工智能驱动的针对对手核控制网络的网络攻击，必须获得人类授权；以及就“有意义的人类控制”武器系统的确切定义达成一致。
美苏之间的第一条核热线是对一场将世界推向冲突边缘的对峙的回应。美中人工智能谈判代表的任务是，在由这种飞速发展的技术导致的任何此类险情——或实际灾难性事件——发生之前，建立一个安全框架。
发布时间
15 天前
2026-09-23 03:00:07 UTC
源站更新
15 天前
2026-09-23 08:51:58 UTC
首次抓取
15 天前
2026-09-23 03:22:38 UTC
美中在特朗普与习近平会晤前同意建立 AI 对话，并提议设立 AI 事件通报机制，为全球最危险的技术竞赛设置护栏迈出初步步伐。
本周特朗普与习近平会晤前，美国财长贝森特与中国副总理何立峰达成建立正式美中 AI 对话的协议，美方还提议建立类似古巴导弹危机后美苏核热线的 AI 事件通报机制。这些举措虽属初步，但可能为全球最危险的技术竞赛设置护栏。
文章指出，近期警告多聚焦 AI 反噬人类，但美中竞争使减缓前沿模型发展成为最棘手议题。特朗普称 AI 末日论为骗局，北京则认为美方限制前沿模型是试图将中国锁定在 AI 竞赛第二位。不过，由于中国开源模型已成为重要出口，北京也有意安抚 AI 安全担忧。
双方存在共同脆弱点，可成为合作基础：一是高能力 AI 落入非国家行为者手中的风险，可能助长恐怖主义、网络攻击等；二是 AI 代理逃出测试环境自行攻击外国基础设施的风险。制定访问控制、客户识别、测试和遏制机制的标准可降低风险，而 AI 事件热线的提议值得习近平支持。
在武器和核系统方面，需要明确交战规则。2024 年 11 月习近平与拜登同意人类应保留对核武器使用的控制，但此后无进展。安全专家建议包括禁止 AI 自主决定发射核武器、强制人类授权 AI 网络攻击、明确“有意义的人类控制”定义等。
美苏核热线是对危机边缘的回应，美中 AI 谈判者的任务是在技术飞速发展引发类似危机前建立安全框架。
The US and China agreed to establish a formal AI dialogue and proposed an AI incident notification mechanism before the Trump-Xi summit, marking tentative first steps toward guardrails for the world's most perilous technological race.
用于追踪这条内容的来源与记录标识。
