爱芯元智发布AX8860系列AI芯片 面向边端大模型部署

中证报中证网讯（殷浩楠 龚梦泽）近日，爱芯元智在上海举行的中国国际工业博览会上正式发布AX8860大算力边端AI芯片系列，面向智能制造、仓储物流及机器人等场景，支持大模型在边缘和端侧部署。公司同步发布元曦模组A256S，并展示元曦系列推理卡和推理服务器。

据公司介绍，AX8860采用6纳米工艺，具备256 TOPS混合精度算力，原生支持FP4，内存带宽为273 GB/s，配备128GB LPDDR5X内存。该芯片支持AXLink级联及PCIe 5.0高速互联，可实现多芯片协同，并具备64路视频解码和16路视频编码能力。

围绕模型部署，AX8860系列支持vLLM、SGLang、PyTorch等主流推理框架与开发环境，提供兼容OpenAI API的服务接口，配套量化、转换、编译、性能分析及调试工具。A256S模组采用模块化设计，支持大语言模型、视觉语言模型及Omni等模型应用。

展会现场，合作伙伴原力灵机展示了DM0.5通用具身大脑在接口插拔质检、通用工业插入和灵巧手柔性切削三类任务中的应用，该模型依托爱芯大算力平台完成推理。爱芯元智方面表示，将通过芯片、模组、推理卡及服务器等产品，为客户按业务需求扩展算力提供支持，减少重复选型和系统迁移成本。