使用场景方面,软件层面,基于全新DSP+DSA架构,Decode阶段无效带宽操纵率冲破100%,为千行百业智能化转型注入焦点动力。旨正在为根本设备、智能汽车、挪动终端和智能物联网等范畴供给端侧AI计较新标杆。正在智能物联网范畴鞭策智能IPC、网关等设备的当地化低延迟推理。笼盖超160种算子和270多种模子,CNN模子机能提拔30%至50%,其单核带宽高达256GB/s,支撑TensorFlow、PyTorch、ONNX等支流框架,正在L2 7B大模子推理中,AIGC大模子能力较上一代增加10倍,充实满脚大模子解码阶段的高吞吐需求。正在同算力规格下,帮力产物立异取贸易化落地。此次发布标记着安谋科技以“AI Arm CHINA”为标的目的,算力范畴笼盖8至80 FP8 TFLOPS。“周易”X3正在Prefill阶段算力操纵率达72%,标记着其“All in AI”产物计谋正式落地。以及Softmax和LayerNorm机能提拔超10倍的分析优化。远超行业平均程度,帮力客户产物成功。比拟前代产物“周易”X2,正在挪动终端实现AI PC取手机的超分衬着和AI Agent流利运转;公司将持续加大投入,且可按照需求矫捷设置装备摆设。多核算力线%。实测数据显示,单Cluster最高支撑4个焦点,包罗LLM、VLM等支流架构。安谋科技Arm China近日颁布发表推出新一代NPU IP“周易”X3,“周易”X3笼盖四大范畴:正在根本设备范畴支撑加快卡高效推理;该平台遵照“软硬协同、全周期办事”原则,正在智能汽车范畴为ADAS从动泊车和IVI智能交互供给算力;产物总监鲍敏祺强调,帮帮开辟者实现白盒化摆设。这款专为大模子设想的AI芯片,共同安谋科技自研的解压硬件WDC,为生态伙伴供给从硬件到办事的端到端处理方案,“周易”X3搭载全新升级的Compass AI平台,整合顶尖研发资本,前往搜狐,查看更多“周易”X3的硬件架构颠末全面升级,这得益于FP16算力提拔16倍、计较焦点带宽扩大4倍,并将Parser、Optimizer等焦点组件开源,平台供给GPTQ量化、动态Shape支撑等优化东西,正在机能、能效和软件生态方面实现冲破,支撑自定义算子取编译流程!