正文
发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
发布时间
2026/03/25 04:5812 分钟前源站更新
首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
Alphaville. How big is the open-model threat to AI hyperscalers?
在年初的一次演讲中,新加坡外交部长维文·巴拉克里希南(Vivian Balakrishnan)阐述了他如何越来越多地使用人工智能来安排生活。AI 代理会在他出国前为他起草简报、演讲稿,甚至国会答复。
他说的不是 ChatGPT、Claude、Gemini,甚至也不是 Grok。作为一个自称“极客和爱捣鼓的人”,巴拉克里希南上了 GitHub,下载代码,搭建了一个系统,然后通过 WhatsApp 与他的机器人交流。
大概这套系统正在新加坡某个最先进的数据中心里嗡嗡运行吧?
“所有这些——我最常用的代理——都运行在一台树莓派上,这台树莓派至少有两三年历史了。它只有 8GB 内存。”
Alphaville 不是一个科技博客。但鉴于美国经济增长的一半、相当一部分盈利提升和全球股市涨幅,以及快速增长的私人及公共信贷份额,似乎都系于 AI 交易,我们越来越觉得自己必须在这方面下点功夫。
标普全球评级(S&P Global Ratings)上周概述的、悬在推动 AI 巨轮的最大公司头上的“已知未知”威胁之一,是开放权重模型缩小了与昂贵的尖端模型之间的性能差距。
我们可以进一步将其拆分为两个构成风险。第一:向尖端大语言模型(LLM)提出的查询——这些查询需要集中的云基础设施——可以被巴拉克里希南用来安排生活的那类本地托管的小语言模型更快、更便宜地回答。第二:大型复杂的开放权重模型变得与大型复杂的封闭权重模型几乎难以区分,可以以极低的成本访问,并且附带本身就有价值的附加条件。
小语言模型(SLM)在多大程度上正在取代尖端模型,这一点远未明朗。毕竟,有胆量自己搭建 AI 设备的技术极客也就那么多。但是,如果这类小语言模型变得很出色,而且切换的经济性合理,那么我们能看到,除了那些不怕代码的极客型人之外,企业也有理由把低级别查询转到本地模型上。
那么,这些桌面级 AI 模型到底有多好?
我们的第一个想法是上 Hugging Face,输入一个提示词,让一批云端尖端模型和袖珍 SLM 写一首关于牛油果的十四行诗的第一节。这很有趣。
我们的第二个想法是找真正专家的研究。这很有用。
斯坦福大学的一个计算机科学家团队自 2023 年以来一直在对 SLM 与尖端模型在主导聊天请求的那类日常任务上的相对表现进行基准测试。对于相对简单的任务,学者们认为 SLM 相当不错。
事实上,研究人员发现,对于主导当前聊天请求的那类查询,SLM 几乎每次都能给出相同甚至更好的答案,而且在推理任务上正在迅速追赶:
诚然,大多数查询不会在计算上太考验人。但是,与把所有东西都扔给云端 LLM 相比,在本地路由这些查询可将计算和能源成本降低 60% 至 80%。此外,虽然他们用来运行这些模型的设备——Apple M4 Max——零售价大约是 Raspberry Pi 4 Model B 8GB 入门套件的 15 倍,但我们谈论的仍然是在 Tom Ford 马甲价格区间内的设备成本,而不是接近 XTX Markets 实习生月薪的东西。
因此,我们能够理解,在“token 最大化”实验如此戏剧性地适得其反之后,管理层可能会被小语言模型所吸引,以修复利润和成本控制声誉。
事实上,考虑到大多数 AI 查询看起来多么基础,研究人员的结果听起来像是那种甚至可能挑战正在规划中的众多庞大数据中心建设经济性的东西。这正是 Panmure Liberum 股票策略主管约阿希姆·克莱门特(Joachim Klement)的看法。在他出色的博客中——我们正是通过该博客首次看到斯坦福论文——他写道:
“如果他们的结果属实,那么我们未来几乎不需要任何数据中心,而超大规模企业正在浪费数千亿美元的投资……而且……在五分之四的用例中,人们可以用数据中心及其昂贵的尖端半导体基础设施取而代之。”
老实说,我们对 AI 的单位经济性,或未来 AI 需求的可能形态和性质,了解得还不够深入,无法做出这一判断。我们注意到,这篇论文——以及它所嵌套的更广泛研究项目——的前提是解决如何在缺乏数据中心(可能还缺乏电力)的世界中扩展计算能力以管理指数级增长需求的问题。
此外,我们注意到,作者之一是约翰·亨尼西(John Hennessy),Marc Andreessen 曾称他为“硅谷教父”,现任 Alphabet 董事长。如果他认为 SLM 将瓦解数据中心建设的经济性,他大概会敦促 Alphabet 不要从现在到 2029 年底在资本支出上挥霍超过一万亿美元。据我们所知,他没有敦促他们停止。
标普对大型 AI 经济/信贷/一切交易“已知未知”威胁的第二个方面,来自大型开放权重云托管模型的使用。基于云的开放权重模型,就像其封闭权重对手一样,会消耗数据中心处理能力。因此,很难看出它们会对数据中心建设的经济性构成什么直接问题。不过,更容易看出它们可能对 Anthropic 和 OpenAI 等 AI 实验室构成麻烦。
开放权重模型与封闭权重尖端模型——如 Anthropic 的 Claude、OpenAI 的 ChatGPT、Google 的 Gemini 和 SpaceX 的 Grok——非常相似。只是用户不需要为使用这些模型向实验室付费。事实上,最近被 Nvidia 收购的 Hugging Face 平台托管着超过 300 万个开源和开放权重模型,你可以免费下载。
其中一些是小型模型,比如 IBM 的 Granite 4.2 3B 模型,你可以把它放在笔记本电脑上,也许用来总结 PDF、分类文档、与你聊天或为牛油果写颂歌。不过,祝你好运,想把 Moonshot 的 Kimi K3 下载到 PC 上可不是那么容易。它横跨 2.8 万亿参数,完全是另一种生物。根据花旗研究(Citi Research)的数据,Kimi K3 击败了(查一下日历)三个月前建造的每一个封闭权重尖端模型。
遗憾的是,要算出一家考虑下载开放模型并运行自己的系统(新加坡巴拉克里希南那台树莓派的放大版)的企业,相对于采用专有系统企业订阅的盈亏平衡使用率,对 Alphaville 来说是一项过于复杂的任务,难以轻易计算。
我们可以看到,走尖端封闭模型路线意味着避免采购计算和存储的麻烦。而且,无论选择哪条路线,每个人都要为推理(即使用)中消耗的电力和计算付费。但开放模型路线意味着你无需为华丽的封闭模型代币付出高昂代价。
要看清开放模型与封闭模型使用趋势的风向,可以看看 OpenRouter 等路由器公司的数据。这家纽约初创公司上月被 Stripe 同意收购。
AI 路由器的工作方式有点像带收费站的 AI 查询分诊服务。客户基本上对模型无偏好,他们不绑定任何特定模型,而是把查询发送给路由器,路由器再把查询转给能够针对当前任务给出足够好响应的最低成本模型。问的是真正困难的封闭式尖端模型级别的问题?那就送到尖端模型那里。
真正配得上封闭权重尖端模型处理的查询份额正在下降。今年年初,其查询中有五分之三被路由到封闭权重专有模型。最新份额仅为四分之一。
这种下降伴随着源源不断的新闻报道,讲述企业正在放弃封闭权重模型。MainFT 在 7 月发表了一篇很棒的文章,谈到 DoorDash、西门子和 Airbnb 为了追求成本节约而进行切换。而《纽约时报》上周报道,AT&T 正将越来越高比例的 AI 使用转向开放模型。该报道写道:
“到 5 月,开放模型占 AT&T AI 使用的 20%。此后这一比例已升至 40%,未来几个月可能跃升至 60%,”该公司首席数据和 AI 官 Markus 先生在采访中表示。
“我们相信这一比例可能还会高得多,”他说,并补充说,与今年早些时候相比,AT&T 在 AI 成本上节省了高达 80%。
此外,开放模型还有其他吸引力。
MainFT 周三报道,数学界本周陷入完全混乱。OpenAI 声称在三维 Navier-Stokes 方程中发现了“奇点”,这是 Clay 数学研究所提出的六个未解“千禧年大奖难题”之一。该实验室在 X.com 上发布的一份声明中写道:“这一证明是由一组代理使用 OpenAI 下一代模型生成的,该模型的能力明显超过 GPT-6 Astra。”
几小时前,纽约大学数学教授 Tristan Buckmaster——他长期以来一直在研究密切相关的问题——发布了自己的声明,他在声明中竭尽全力地“并非完全正式地”指控 OpenAI 从他与 Codex、GPT-5.6 Sol 和 Astra 的会话中窃取了一个几乎完整的 Navier-Stokes 证明。但他听起来一点也不高兴,如果你有五分钟时间,值得完整读一读。
OpenAI 的回应是在 X.com 上转发其主帖,祝贺 Buckmaster 的发现,称 OpenAI 的研究人员没有见过他的工作,但也表示“虽然不太可能,但我们不能排除来自他们使用我们产品的去标识化数据帮助改进了我们的模型。”
😬😬😬
不需要牛津大学 AI 研究员也能明白,这对那些已经对信息安全偏执的公司意味着什么。
最先进尖端模型最重的潜在用户往往是知识最密集型行业中的公司,这些公司的生存取决于其数据安全——无论是构建专有算法的量化对冲基金和自营交易公司、生物技术和制药公司、国防和工程公司、律师事务所,等等。虽然大多数公司一直很乐意签署专有模型,但任何保护自身知识产权的公司都会希望自己的数据不要进入可能提供给竞争对手的训练算法。这个想法似乎正获得商业上的吸引力。
一批律师事务所已表示将走主权 AI 路线,我们猜他们会通过调整开放模型来实现这一目标。例如,MainFT 周四报道,美国第二大律师事务所 Latham & Watkins 正在购买 Nvidia 硬件,并将在其上托管 Nvidia Nemotron 3 开放权重模型,计划对其进行微调:
“有时我们可能有非常敏感的信息,我们确实想保护的客户信息,我们不想把它交给任何云供应商,”该所首席信息官 Rene Mendoza 表示。
资本市场 AI 基础设施公司 ApexE3 的战略顾问 Tareq Islam 告诉 Alphaville,一些伦敦资产管理公司除了不想建立对任何单一专有模型的依赖外,也不愿将最机密的资料和知识产权交给封闭模型提供商。ApexE3 的客户包括全球第二大资产管理公司 Vanguard。
总而言之,我们明白为什么德勤本月早些时候推出了一个新的“开放模型工程实践”,以帮助世界各地的公司扩展开放模型。
整个世界不会很快都运行在开放权重模型上。但即使如此——只要这些模型是大型云端模型——这听起来仍然是相当看好的理由,不仅对支撑美国经济增长的建筑热潮和供应所有数据中心硬件的芯片公司而言,而且对尚未到来的生产率奇迹而言。然而,尚不清楚这是否真的对所有超大规模企业都是看好的理由。
OpenAI 和 Anthropic 是尚未上市或发行评级债务的私营公司。虽然具有象征意义和技术意义,但处于这一生命周期的公司本不应在财务上如此重要。当然不应重要到足以影响全球经济。
但它们在其主导——并可能继续主导——的行业中的核心地位,以及循环融资的程度,意味着这看起来并非板上钉钉。
虽然那已经是五个多月前的事了,但值得提醒自己摩根士丹利由 Todd Castagno 领导的全球估值、会计和税务团队绘制的这张令人惊叹的接线图——Louis 把它变成了一个互动奇迹:
自从这张图表绘制以来,发生了很多事情,尤其是 OpenAI 关闭其 AI 视频应用 Sora,这扼杀了迪士尼/OpenAI 交易。此外还有 4 月 OpenAI/Microsoft 关系的重新谈判、8 月 Nvidia 提供的 1000 亿美元支持,以及其他一堆事情。请在心中根据需要调整图表。
超大规模企业的核心业务通常利润丰厚且产生现金。在计算受限的世界中,它们拥有或拥有使用权的数据中心容量,无论哪些模型在让这些容量高效运转,都将是有价值的。基本上,它们有足够的财务实力来承受一些大赌注变成坏账。
但领先的 AI 实验室是烧钱怪物,靠超大规模企业投资者对它们的信心维持生命。这种信心不仅在于其发明明显卓越,还在于其天才能够以超过偿还债务、租赁承诺、远期电力协议等所需支付速度的速度变现。
在通往变现的道路上有障碍需要清除,尤其是抵御开放模型带来的竞争威胁。而在领先 AI 实验室未能清除所有障碍的情景下,坦率地说,很难确定所有收款在哪里。
被称为“央行的央行”的国际清算银行(BIS)6 月警告称,超大规模企业回报低于预期可能导致投资崩溃,从而拖垮全球股市。这可能是“他们当然会这么说,不是吗?”的情况。因为当一切顺利时,没人感谢 BIS。
所以当然,在一切可能的世界中最好的世界里,AI 能提高经济生产率,消除世界贫困,用收入填满政府金库以偿还债务,给我们所有人更多时间玩耍,并避免消灭所有人类生命。
但我们能看到,对于任何考虑涌入超大规模企业债务或前沿实验室股票潜在风险与回报的人来说,这个“一切可能的世界中最好的世界”未必是没有问题的世界。
Oliver Hawkins 补充报道。
延伸阅读:—— 企业转向中国 AI 模型以削减成本(MainFT)
发布时间
10 小时前
2026-09-11 05:00:09 UTC
源站更新
10 小时前
2026-09-11 05:00:10 UTC
首次抓取
9 小时前
2026-09-11 05:10:51 UTC
本文探讨开放权重模型对 AI 超大规模企业构成的威胁。小型本地模型在常见任务上已接近前沿模型且更省成本,云托管开源模型也削弱闭源实验室地位。AT&T 等企业转向开源模型以节省成本,数据安全担忧进一步推动该趋势。
本文以新加坡外长 Vivian Balakrishnan 用树莓派运行个人 AI 助手为例,引出开放权重模型对 AI 超大规模企业的潜在威胁。标普全球评级将其列为“已知的未知”风险之一:开放权重模型正缩小与昂贵前沿模型的性能差距。风险分两部分:一是本地托管的小型语言模型 (SLM) 能以更低成本处理日常查询;二是大型复杂开放权重模型与闭源前沿模型趋同,且成本仅为后者零头,还附带额外价值。斯坦福大学研究显示,对于主导聊天请求的简单任务,SLM 几乎每次都能给出相同或更好答案,并在推理任务上快速追赶;将查询路由到本地可将计算和能源成本降低 60% 至 80%。Panmure Liberum 的 Joachim Klement 认为,若结果属实,未来几乎不需要数据中心,超大规模企业正在浪费数千亿美元投资,五分之四的用例可替代数据中心。不过文章也指出,该研究的前提是缺乏数据中心和电力来扩展算力,且共同作者、Alphabet 董事长 John Hennessy 并未阻止 Alphabet 数千亿美元的资本开支计划。
Open-weight models threaten AI hyperscalers by closing the gap with frontier models. Small local models handle everyday queries cheaply; cloud-based open models also pressure AI labs. AT&T and others are shifting to open models for savings, and data-security worries reinforce
用于追踪这条内容的来源与记录标识。