从“上车”到“在场”:端侧大模型如何打开智能终端新空间(上车从车前还是车后过去) ypxx.net

转自:新华财经

近日,斑马智能在云栖大会期间发布了新一代全模态端侧大模型AutoOmni 2.0-23B-A3B;基于让AI更懂“我的世界”这一理念,同步展示全新AutoClaw 2.0智舱协作服务实车方案,以及联合YoooClaw打造的全新生态智能体实车方案。

当前,人工智能产业正经历新一轮重心迁移:大模型竞争从云端参数竞赛,逐步走向端侧工程化落地。工信部《“人工智能+软件”专项行动实施方案》亦提出,支持轻量化模型在智能网联汽车、消费电子类终端部署应用,探索发展具身智能系统软件,培育相关产业新增长点。

从“唤醒词”到“始终在场”,交互方式正在改变

长期以来,行业谈论端侧大模型,往往聚焦于节约云端算力成本等技术收益。在斑马智能联席CEO郝飞看来,“端智能的核心价值是开启交互新范式”。斑马智能首席产品官蔡明亦表示,传统车载AI高度依赖唤醒词触发,交互是被动的;端侧大模型可依托本地持续感知与长上下文记忆,逐步实现全车全时免唤醒,让主动服务成为可能。

这一新范式的落地,依托的是端云协同的分工重构。作为参与 AutoOmni 生态协同研讨的芯片伙伴,中兴微电子汽车电子副总经理张效宇在大会论坛中表示,端与云应当协同发展,复杂深度推理任务更适合放在云端;端侧则在实时响应、隐私保护、高频并发交互场景具备独特价值。基于这一范式,AutoOmni能够打通语音、视觉、姿态感知等全模态输入链路,构建端侧闭环推理架构,实现低时延、高隐私安全的车载AI能力输出,将车载交互从“唤醒才应答”带入“全时主动在场”的全新体验。

从拼参数到拼工程,端侧大模型走向真实场景

斑马智能AutoOmni 2.0采用23B参数规模的MoE混合专家模型架构。斑马智能首席战略官邢悦介绍,做23B参数MoE端侧模型的目标,是希望端侧效果能趋近于同档次200B参数规模的云侧算力所能达到的水平。蔡明补充道,相较目前端侧常见的4B、7B左右模型,23B模型参数规模进一步扩大,但在提升模型泛化能力的同时,对车端存储空间及硬件平台性能提出了更高要求。

参数规模扩大,并不意味着可以一直“堆”下去:模型越大,对车端存储与算力平台的挤压越明显,高参数的边际收益开始递减。与斑马智能拥有多年产业协同基础的博世,也在大会论坛上分享了端侧大模型落地的现实挑战。博世智能驾控事业部王驷通分析,受 DDR 等硬件成本上涨影响,端侧 AI 大规模上车存在现实约束,不存在一家厂商可以完成软硬件全链条闭环,产业需要分工协作:零部件企业承担整车硬件与安全兜底,座舱 AI 服务商聚焦用户体验与工程快速迭代。未来,“智能密度”将成为竞争的关键指标——即在芯片算力、内存、车规成本等硬约束下,仍能稳定释放更高的AI能力。

而“智能密度”能否兑现,最终取决于工程。据斑马智能首席技术官司罗介绍,AutoOmni已与国内外10家芯片企业开展协同优化,软硬件协同支持8路以上多任务稳定并发,大模型推理加速5到6倍,量化保真度超过99%,少占用运行内存50%以上;车规级端侧大模型安全纵深防御体系,可在保障安全的同时控制性能开销。在AutoOmni发布后的一年时间里,端模型“上车”的企业中已有63%选择斑马智能。

从卖硬件到经营用户,汽车进入长期服务阶段

在蔡明看来,商业模式的转变正是交互变革的自然延伸:“商业来源于用户价值,用户价值前置是流量,流量前置是交互模式。”当端侧智能让车机“始终在场”,车便成为新的流量入口,车辆与用户的关系也从一次交易延伸为全生命周期的经营。

《汽车智能化发展报告(2024)智驾篇》显示,中国90%的消费者愿为高阶智驾额外付费。然而,行业实际付费渗透率却不高。意愿与转化之间的落差说明,用户愿意为服务与内容买单,而非为工具买单。邢悦介绍,斑马已有接近20%的收益来自后续服务运营和内容运营,包括第三方APP支付佣金以及与车厂在服务和内容上的分润,这一比例未来有望进一步提升至50%左右。

汽车成为AI走向更多终端的重要“中试场”

据《中国具身智能产业发展报告(2026)》,2026年我国具身智能市场规模预计突破1万亿元。“十五五” 规划纲要亦首次将具身智能纳入国家未来产业重点布局。“智能汽车是具身智能最大的中试场和规模化压测平台。”司罗强调。从产业视角看,智能汽车拥有复杂的交互环境、严苛的安全标准、成熟的供应链与大规模量产基础,具备了其他具身智能载体短期内难以企及的验证条件。车端沉淀下来的工程方法论,未来有望外溢到机器人、AR眼镜等其他具身终端。

邢悦表示,智能汽车是具身智能中最早实现产业化、最具商业潜力的形态之一,国家也应当从政策等层面加强统筹,构建从手机、车机到具身智能的连贯生态体系。目前,斑马系统装机量已达千万级,并形成400余家服务商(CP/SP)组成的生态,从互联网生态、AI生态走向Agentic生态。

与此同时,蔡明提醒,端侧大规模上车仍面临两个前置条件:一是端侧算力成本需持续下降;二是模型“智能密度”需持续提升,即通过技术迭代提升模型单位参数所承载的智能水平。

AI下一阶段的竞争,不只是“模型有多聪明”,更在于能否真正进入用户的现实生活。从“被唤醒”到“始终在场”,从模型能力到工程化落地,再到用户运营和跨终端生态,以斑马智能为代表的端侧大模型先行者,正推动大模型从云端能力向实体产业进一步延伸。(邓侃)

编辑:葛佳明