医疗健康
morning
端侧AI之战正式打响
摘要
端侧AI商业化加速,企业聚焦轻量模型与硬件开发,智能硬件迎来升级浪潮。 文 | 巨潮WAVE,作者|谢泽锋,编辑|杨旭然 跳出行业激战、耗资巨大的超级云端大模型,转向端侧模型研发,或开发端侧模型智能终端,成了很多企业深度参与AI浪潮的重要方向,尤其是对于硬件企业来说。 面壁智能CEO李大海认为,2026年就是“端侧AI商业化元年”——这家公司虽然并没有获得AI手机的相关资质,但也因为相关的概念和产...
Meta
以小博大
端侧AI商业化加速
企业聚焦轻量模型与硬件开发
智能硬件迎来升级浪潮
巨潮WAVE
谢泽锋
杨旭然
跳出行业激战
耗资巨大的超级云端大模型
2026-09-17
1 阅读
约10分钟阅读
巨潮WAVE
字号:
端侧AI商业化加速,企业聚焦轻量模型与硬件开发,智能硬件迎来升级浪潮。 文 | 巨潮WAVE,作者|谢泽锋,编辑|杨旭然 跳出行业激战、耗资巨大的超级云端大模型,转向端侧模型研发,或开发端侧模型智能终端,成了很多企业深度参与AI浪潮的重要方向,尤其是对于硬件企业来说。 面壁智能CEO李大海认为,2026年就是“端侧AI商业化元年”——这家公司虽然并没有获得AI手机的相关资质,但也因为相关的概念和产品获得了数额不小的融资。 今年7月份,网信办要求有序开展AIGC服务备案工作,并新增了Apple智能、华为小艺、小米澎湃AI等7家大模型的备案信息。 随后,豆包AI手机NaviX Ultra于9月16日正式亮相,Apple智能(Apple Intelligence)+全新Siri AI已经在WWDC26发布,刚刚上市的小米18 Fold则内置了Xiaomi MiMo端侧大模型。 智能汽车赛道,由印奇执掌的阶跃星辰在汽车和手机赛道双向押注,一方面联手吉利切入智能汽车,另一方面推出了旗下首个原生智能体手机(Agentic Phone)STEPX Neo。 大洋彼岸,Meta、英伟达、谷歌、OpenAI等巨头也开始探索端侧研发,或者联合设备厂商打造全新的AI硬件。 一场端侧之战实际上已经开启,智能硬件产业面临一次规模浩大的升级浪潮。 以小博大 与大众熟知的DeepSeek、ChatGPT等云端大模型相比,端侧模型更加轻巧,参数量更小,可以利用设备端算力直接运行,无需依赖云端。 参数量是AI大模型和端侧大模型之间最显著的区别。AI大模型动辄上万亿的参数,Kimi K3(月之暗面)高达2.8万亿(2.8T)MoE,Anthropic的Mythos参数更达到10万亿(10 trillion),训练数据量300万亿token。 巨大的参数量,可以使市场上的各家大模型拥有更强的性能,能够捕捉复杂的数据模式并在多种任务中表现出色。但问题在于,依赖云端推理的方式需要网络连接,会带来延迟和隐私问题。一旦断网或遭遇突发情况,将直接宕机无法使用。 端侧设备的芯片性能和存储空间有限,因此端侧大模型的参数势必压缩。借助知识蒸馏、剪枝和量化,端侧大模型的参数量可以减少到几个B的规模。 当前,很多主流模型厂商如DeepSeek、Meta Llama、IBM Granite都推出了小模型版本,且面向特定任务的性能和测试情况都表现出色。 这意味着大型基础模型可以缩减为体量更小、更轻巧的版本,以达到推理速度更快、内存占用更少、功耗更低,并能保持较高的性能水平。这意味着它们可以更好地在智能手机、PC、汽车、机器人等终端上部署。 AI大模型无法像互联网那样靠规模效应实现成本递减,这是其商业化道路上的最大瓶颈。 训练一个超级大模型要耗费巨大资源,Mythos的训练成本估算就达100亿美元,投入使用后,模型的推理成本将随着日活用户数量及使用频率的增加而攀升。 国联民生证券测算,加上豆包免费C端服务,字节单日成本就高达1.32亿到2.4亿元。云端推理的极高成本,将严重拖延大模型商业化的持续性。 端侧AI可以“以小博大”,即时性高、隐私性强,还可以结合本地数据做更多定制化创新,进一步为开发者降低成本,推动边缘AI商业化落地。 在芯片“摩尔定律”+端侧AI“密度定律”共同驱动下,端侧智能也在加速商业化。 2024年年底,清华大学孙茂松、刘知远团队与开源社区OpenBMB提出“能力密度”的概念,用以衡量大模型单位参数内的智能水平。 密度定律的结论为“大模型的能力密度随时间呈指数增长,约每3.3至3.5个月翻一番”,即“每隔约一百天,只需一半参数量的模型即可达到当前最优性能”。结合半导体领域的摩尔定律,芯片在同等价格下的算力约每两年翻一倍,而模型的能力密度约每一百天翻一倍。软硬路线的共振之下,AI大模型开始向终端设备下沉。 当前,AI手机、AI PC都在加速渗透(此类数据存在一定的口径问题)。生成式AI手机渗透率在2025年已达36%,2027年将过半,端侧AI将由高端卖点转为产品标配。AI PC出货占比在2025年已攀升到31%,2029年将成常态。 加上智能汽车、具身智能乃至智能硬件的形态创新,端侧AI时代即将来临。 破局时刻 一只“鸭子”的出现,正在重塑全球物理AI时代和端侧AI的演进。 9月3日,英伟达豪掷129.3亿美元收购了全球最大AI开源平台Hugging Face。就在一周前,Hugging Face旗下Pollen Robotics发布了一款售价399美元的双足机器人Microduck。 这只高仅25厘米、不到800克的机器鸭,可能已经撬动了端侧AI的ChatGPT时刻——开订24小时订单额破260万美元,高峰期平均每4秒卖出一台。如果有消费者现在去预订,需要6个多月才能拿到货。 Microduck采用开源设计,用户可以自行重新训练,意味着这只机器鸭不是普通的玩具,而是可以不断自我学习。玩家可将训练成果上传Hugging Face Hub,海量设备在真实环境产生的数据,将以近乎零边际成本去推动算法进化。 自ChatGPT问世以来,AI世界的叙事线条一直是更大规模的模型、更强更贵的GPU、更庞大的算力集群。 Microduck搭载的并非英伟达、AMD或高通的高端芯片,而是一颗瑞芯微于2020年开发的中端SoC RK3566。 相比动辄几十万的人形机器人,这样低门槛、全开源、生态丰富的“鸭子”,大幅降低了端侧智能设备的进入门槛。 正如Hugging Face首席执行官Clem Delangue所说,Microduck的推出意味着“价格可负担的开源机器人时代”正在到来,目标是让更多人参与实体AI和世界模型的发展。 在AI PC端,AMD、英特尔、英伟达等芯片巨头加速布局。1月,AMD推出面向Windows 11 AI PC的锐龙AI 400、锐龙AI PRO 400处理器,算力最高可达60 TOPS,可在本地运行大模型。 英特尔在2026 CES展上发布第三代酷睿Ultra处理器,这是首个基于Intel 18A工艺打造的计算平台。 6月,黄仁勋在台北GTC大会上拿出应用于AI PC的超级芯片RTX Spark,该芯片具备1 Petaflop算力,最高128GB内存,可本地运行1200亿参数大模型。今年秋天,华硕、戴尔、惠普、联想等PC大厂就将陆续推出搭载该芯片的产品。 在成本、商业落地可行性、技术演进等多重因素驱动下,AI大模型在未来的演化,可能将逐步分成三大类: 其一就是大众熟知的云端大模型,承担复杂推理、长文本/视频生成与Agent能力,它定义了AI的能力上限; 其二就是行业模型,在金融、医疗、司法等垂直领域拥有专长,服务专业场景,解决AI落地问题; 其三就是我们目前所讨论的重点,端侧模型,其作用在于承接高频、实时、隐私与离线可用的任务,它决定了未来AI的触达密度和广度。 “云端定上限、行业定深度、端侧定入口”的分层协同,已经愈发明显。 中国样本 AI大模型演进趋势之下,中国端侧AI也迎来爆发奇点。 主要玩家中,面壁智能定位纯端侧模型基座供应商,秉持“以小博大”的理念,试图用自己的模型接管所有智能硬件;豆包手机是字节跳动联合中兴努比亚共
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱