一场「把大模型装回本地」的集体冲锋
2026 年最后一个季度，硬件厂商的发布会几乎被同一个词刷屏：本地 AI。从桌面超算、AI 笔记本，到 2nm 手机芯片，各路巨头不约而同地做同一件事——把原本只能住在云里的百亿、千亿参数模型，往你手边的设备里塞。把这股浪潮放进一条时间线看，趋势会非常清楚。
桌面与工作站：先把「迷你超算」搬回家
英伟达是这一轮最激进的排头兵。10 月 7 日它发布 RTX Spark 超级芯片，把 Arm 架构的 Grace CPU 和 Blackwell GPU 塞进同一颗芯片，最高 128GB 统一内存、约 1 PFLOPS 的 FP4 算力，Surface Laptop Ultra 作为首发机型登场；一周后（8 日）又亮出 DGX Station for Windows 台式超算，搭载 GB300 Grace Blackwell Ultra，统一内存高达 748GB，厂商口径是「能承载约 1 万亿参数的模型」，计划四季度上市；再到 16 日，RTX Spark 笔记本正式开卖，华硕、戴尔、联想等首批发售，起售价约 2600 美元。
英特尔的回应同样直接：在 OCP 2026 峰会上把代号 Crescent Island 的 AI 推理卡正式定名 GPU D 系列，旗舰 D270 是一张 350 瓦风冷 PCIe 卡，最高 480GB LPDDR5X 显存、FP8 算力 1.3 PFLOPS——不跟 HBM 路线硬碰硬，而是用「轻量风冷推理卡」切进推理市场，顺便叫板 Rubin。AMD 则在 OCP 上发了机柜级的 Helion 参考设计，把智能体 AI 的并发算力堆到机柜尺度。
手机与移动端：2nm 挑起的「端侧模型」竞赛
如果把目光从桌面移到口袋，故事是一样的，只是换了个量纲。
高通在骁龙峰会上发布 骁龙 8 Elite Gen 6 与更高端的 Extreme 版，两者都用台积电 2nm 工艺 + 自研 Oryon 架构，超大核频率首次摸到 5GHz；官方给的提升是 CPU 约 10%、图形约 35%、能效约 40%，并强调「支持在本地运行 300 亿参数级的混合专家模型」。联发科则提前一步，10 月 6 日就在新德里 Tech Day 端出 天玑 9600 Pro：同样是 2nm、全大核 CPU 设计，NPU 1090 号称最高支持 300 亿参数端侧模型，旗舰制程上第一次追平对手，OPPO Find X10 Pro Max 将在印度首发。
移动端竞争的胜负手，已经从「跑分」悄悄变成了「每瓦能跑多大的本地模型」。
软件侧在同步「减负」
硬件把路铺平的同时，模型侧也在配合把门槛降到手机可承受的程度。一个很典型的案例是面壁智能的 MiniCPM-V 4.7：35B-A3B 的 MoE 结构，官方演示是在 iPhone 17 Pro Max 上仅用约 3GB 内存，跑出每秒 13 个 token 以上的解码速度。当「总参做大规模、激活只算一小部分」的 MoE 路线和「统一内存」这种硬件设计相遇，本地跑大模型才真正从演示变成可用。
为什么「本地」突然成了共识
表面看这是厂商为了卖货卷参数，但底层有三股真实需求在推：
- 隐私与合规：企业不愿把敏感数据送进别人的云，本地推理是刚需；
- 成本与延迟：把高频、低延迟的推理放到端上，省掉云端往返和持续订阅；
- 离线可用：断网环境、边缘场景、工厂与车载，都需要「不联网也能用」的 AI。
一个更本质的变化是：当「每 TOPS / 每瓦」的账终于算得过来，本地 AI 就从「发烧友玩具」走向了「默认配置」。对普通消费者来说，最直观的信号只有一个——你下一台电脑、下一部手机，大概率会以「能本地跑多大的模型」作为卖点之一。
暂无评论内容