产品特点
PRODUCT FEATURES
- 计算性能高
-计算性能和内存带宽行业领先，从容应对更复杂的人工智能及大模型应用
-配备了64GB的HBM内存，板级功耗为350W
- 模型覆盖广
-通用GPU架构支持人工智能及通用计算融合，广泛支持通用计算算法和AI模型
-支撑各种主流大模型的大规模集群稳定运行，在大模型性能上表现卓越
- 生态兼容强
-具备强大的通用性，生态直接兼容，算子库覆盖率高
-支持包括DeepSpeed、Megatron-DeepSpeed、Megatron-LM、Colossal-AI等主流框架，提供自研的推理框架无缝兼容vLLM和TGI热门框架
- 开发易迁移
- 生态友好，支持异构方案混训，为企业算力扩容考虑现有资产ROI
- 快速支持国内外新兴大模型，包括LLaMa，Qwen, Yi等最新版本和最大参数量
