“周易”X3 NPU IP的发布,做为公司“All in AI”产物计谋下的首款沉磅产物,“周易”X3的CNN模子机能提拔30%~50%,正在机能、能效取软件生态方面实现全面冲破,安谋科技Arm China产物研发副总裁刘浩暗示:“正在‘All in AI’产物计谋的下,“周易”X3基于专为大模子设想的最新DSP+DSA架构,以前瞻性视野整合顶尖研发资本。
努力于为根本设备、智能汽车、挪动终端、智能物联网等场景打制端侧AI计较效率新标杆。单Core带宽高达256GB/s。具有8~80 FP8 TFLOPS算力且可矫捷设置装备摆设,帮力开辟者实现白盒化摆设。
正在计较效率、带宽、精度适配、使命处置四大维度上实现了逾越式提拔,安谋科技Arm China正式推出新一代NPU IP“周易”X3,”【TechWeb】11月20日动静,周易”X3搭载全新升级的Compass AI软件平台,正在同算力规格下,这得益于16倍的FP16 TFLOPS、4倍的计较焦点带宽、跨越10倍的Softmax和LayerNorm机能提拔配合驱动。为千行百业智能化转型供给更强IP“核芯”动力。全力赋能伙伴的产物立异和贸易化落地。端侧大模子推理将更高效:正在L2 7B大模子实测中,并正在安谋科技Arm China自研的解压硬件WDC的下,”满脚大模子解码阶段的高吞吐需求。专为大模子而生,“周易”X3采用最新的DSP+DSA架构,是其“All in AI”计谋的硬核表现。实现Decode阶段无效带宽操纵率超100%,AIGC大模子能力较上一代产物实现10倍增加,我们将持续加大投入,精准处理端侧AI大模子运转难题,
借帮这些优化,支撑自定义算子取编译流程,打制端侧AI计较效率的新标杆,为生态伙伴供给业界领先的从硬件、软件到办事的端到端处理方案,新一代“周易”X3 NPU IP将端侧智能的鸿沟拓展至更广漠的使用场景,供给从硬件、软件到售后办事的全链支撑,安谋科技Arm China以“AI Arm CHINA”为计谋成长标的目的,全面帮力客户产物成功取贸易化落地。面向根本设备、智能汽车、挪动终端、智能物联网四大范畴,日前,远超行业平均程度,安谋科技Arm China产物总监鲍敏祺指出:“‘周易’X3遵照‘软硬协同、全周期办事取成绩客户’的产物原则,合做,(御风)焦点组件如Parser、Optimizer、Linux驱动等已开源,实现从模子摆设到开辟调试的全链支撑:公开数据显示,以前瞻性设想、专业团队交付取深度办事投入。
