首页»行业  »   正文

高通推出Cloud AI 100,专为边缘AI推理设计,速度提升约10倍

高通推出Cloud AI 100,专为边缘AI推理设计,速度提升约10倍

高通公司在旧金山召开了年度AI Day会议。它公开了三款面向智能手机,平板电脑和其他移动设备的新系统芯片,更重要的是,它还推出了一款为边缘计算量身定制的产品:Cloud AI 100。

Cloud AI 100

产品管理高级副总裁Keith Kressin表示,“这是我们专门为AI推理处理设计的全新信号处理器,将在明年下半年开始生产。我们不只是重新利用数据中心的移动芯片。”

Cloud AI 100将在原始设备制造商的不同模块,外形和功率级别中提供,它集成了各种开发人员工具,包括编译器,调试器,分析器,监视器,服务,芯片调试器和量化。

此外,它还支持运行时,包括ONNX,Glow和XLA,以及机器学习框架,如谷歌的TensorFlow,Facebook的PyTorch,Keras,MXNet,百度的PaddlePaddle和微软的认知工具包。

高通估计其峰值性能是Snapdragon 855和Snapdragon 820的3到50倍,并且它声称,与传统的现场可编程门阵列(FPGA)相比,它推理的平均速度提高了约10倍。此外,以每秒tera操作(TOPs)衡量,Cloud AI 100运算速度远远超过100个TOP,而Snapdragon 855最多可达7个TOP。

Kressin表示,“FPGA或GPU通常可以更有效地进行AI推理处理,因为GPU是一个更为并行的机器,CPU是串行机器,并行机器更适合AI处理,但是,GPU专为图形而设计,如果你从头开始设计芯片以实现AI加速,你可以获得显著的改进。CPU到FPGA或GPU大约是一个数量级的增进。定制的AI加速器还有另一个数量级的提升机会。”

Snapdragon 665

从架构上讲,11纳米的Snapdragon 665与Snapdragon 660的共同点要多于Snapdragon 670。
它封装了Kryo 260内核,而不是更新的Kryo 360内核,大概8个,高通没有具体说明,当涉及到图像处理时,它用的是spectrum 160 ISP,而不是Snapdragon 670的spectrum 250。它最多可以驱动三个摄像头,最大传感器分辨率为4800万像素。

高通推出Cloud AI 100,专为边缘AI推理设计,速度提升约10倍

借助内置的Hexagon Vector Extensions和板载Hexagon 686 DSP协处理器,Snapdragon 665的设备上AI处理速度提高了两倍。

Snapdragon 730和730G

Snapdragon 730作为700系列的第二款芯片,看起来是对高通现有中端阵容的重大升级。它基于8纳米制造工艺,内置Kryo 470内核,搭配Hexagon 688 DSP,Spectra 350图像信号处理器和Adreno 618图形芯片(还有Vulkan 1.1图形驱动程序)。

高通公司表示,Snapdragon 730中的AI引擎采用单精度浮点格式和INT8点产品指令,由Kryo 470提供。并且它表示Adreno 618具有额外的算术逻辑单元(AMU),这将进一步加速AI工作负载的性能。

更简单地说,与Snapdragon 710相比,Snapdragon 730的图形渲染和CPU性能提高了约25%和35%,并且AI性能提升了两倍。

高通公司还详细介绍了Snapdragon 730的一个特殊变体,Snapdragon 730G。从设计的角度来看大体相同,但它针对顶级游戏进行了优化,渲染速度更快(比Snapdragon 730快15%),并拥有内置的反作弊扩展和自动减少延迟的无线网络管理器。还有一个jank reducer功能,可以帮助减少运行在每秒30帧的游戏中的卡顿。

高通公司表示,730和730G都已经投入商用,预计第一批设备将在今年第二季度上市。内置Snapdragon 665的手机和平板电脑将很快上市。

欢迎关注ATYUN官方公众号,商务合作及内容投稿请联系邮箱:bd@atyun.com

发表评论