智算产品

       基于AI训练与推理的⾼性能计算平台,具有GPU集群优化、⾼带宽通信墙、GPU算⼒卡⾼密度计算等⾼精技术,创新型的架构设计可兼容多种形态GPU算⼒卡以及多种类型的处理器平台,能够精准适配MOE、Dense等多种架构的模型(如:DeepSeek等),同时通过⾃研推理框架优化计算流、通信流、显存占⽤,显著提升⼤模型的训练效率和推理速度

图片.png
图片.png图片.png图片.png
AX200AX400AX1000
AX2000
  • GPU热插拔技术
    通过GPU BOX实现GPU算力卡热插拔,提升运维效率。

  • GPU高可用技术
    通过GPU-RAID 技术,实现整机系统的高可用,提升运营效率。

  • GPU节能延寿技术
    GPU算力卡单点电源管理技术,构建细粒度能耗管理体系,延长 GPU 算力卡寿命。

  • 高密度增效技术
    通过创新的张量并行技术,完美实现单机 20 卡支持 W4 FP16DeepSeek 671B 全量模型。

  • 创新推理框架技术
    通过统一算子、KV 缓存全局共享等技术,实现从硬件底层到框架层全链路优化,提升训/推效率。

  • 万卡互联技术
    通过单张GPU算力卡与100G至400G组网技术,实现整机2至8T通信墙,构建方卡集群组网。



推荐新闻

联系我们

联系我们

400-003-1585
010-82562362
13811070381
关注微信
关注微信
分享本页
返回顶部