
7 月 11 日消息,Arm 公司于 7 月 10 日发布博文称,为满足未来生成式 AI 的需求、扩展更多先进智能功能,推出了可加速 AI 工作负载的可扩展矩阵扩展 2(SME2)技术,开发者无需修改代码,即可将其集成至现有模型和应用中。
该公司指出,移动设备上的生成式 AI 应用已不再局限于传统的聊天机器人和虚拟助手,正逐渐拓展到生成文本、声音、图像和视频,执行数学推理及群聊摘要等诸多高级智能功能。
SME 最初出现于 Armv9 架构中,是一组可选的高级 CPU 架构扩展,专门用于加速矩阵数学运算。SME2 于 2022 年底首次亮相,在 SME 基础上增加了新功能,据 Arm 介绍,它能实现实时的移动端推理任务,涵盖生成图片、自然语言处理任务等。
Arm 分享的数据显示,SME2 表现可靠:Google 的 Gemma 3 模型在 SME2 增强的硬件上,运行速度比无 SME2 的硬件快 6 倍;其可在单个 CPU 核心上不到一秒钟内完成 800 字的文本摘要(Arm 未明确此处所指 CPU 型号)。
对消费者而言,公告的关键信息是未来安卓手机将具备 SME2 硬件能力。此前,SME 主要应用于服务器和工作站级处理器,因其要求较高;而 SME2 设计得更具可扩展性,可部署在笔记本电脑、平板电脑及高端智能手机上。
重要的是,安卓已做好支持 SME2 的准备,该技术在 Google 的 XNNPACK 库中启用,并支持 llama.cpp、阿里巴巴的 MNN 和微软的 ONNX 等框架。
免责声明:本文仅代表作者个人观点,与朝闻天下无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
本网站有部分内容均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,若因作品内容、知识产权、版权和其他问题,请及时提供相关证明等材料并与我们联系,本网站将在规定时间内给予删除等相关处理.














