TG8A9V3 10U16卡AI-服务器
TG8A9V3 是一款专为大模型推理打造的高密AI服务器,基于AMD 9004/9005处理器平台,兼容国内外各主流加速卡,基于创新的 PCIe Fabric 全互联架构,具备超高算力、极致互联、超强扩展等特性,适用于中小规模训练、分布式推理、PD 分离等加速计算场景。
|
创新架构 卓越性能 |
|
2 颗AMD EPYC™ 9004/9005 系列处理器,TDP 500W,充分发挥 GPU 算力; |
|
16 张 600W 高性能 GPU,提供高效异构算力; |
|
基于 PCIe 的 Fabric 16 卡全互联架构,提供极致卡间互联效率; |
|
超强扩展 灵动配置 |
|
支持多达30个PCIe 5.0插槽,极致扩展性 |
|
支持多达8个400G GDR NIC,满足大规模集群推理需求; |
|
支持全互联、环形互联等多种GPU拓扑,满足多场景需求; |
|
支持多达16个2.5”SSD,满足大容量和高性能的本地存储需求; |
|
稳定可靠 智能管理 |
|
抽屉式可插拔模块化设计,免下架快速维护 |
|
GPU&NIC 前置设计,散热更优、维护更便捷 |
|
集成智能管理芯片,提供开放的管理平台,支持 IPMI2 .0、Redfish、SNMP 等多种管理协议; |
|
支持 KVM、虚拟媒介、关键部件状态监控、异常报警等各种管理功能,具备全面的远程系统级智能管理能力。 |
|
功能 |
规格参数 |
|
产品形态 |
标准 10U 机架式 |
|
CPU |
2 颗AMD EPYC™ 9004/9005 系列处理器,TDP 500W |
|
内存 |
24 个 DDR5 内存插槽,1DPC,最高速率 6400MT/s |
|
GPU |
16 张双宽 GPU,TDP 600W |
|
PCIe 扩展 |
支持最多 30 个 PCIe 5.0 插槽 2 个 GPU Tray,每个Tray 支持 8 张双宽 GPU、最多 4 张 GDR NIC 1 个 CPU Tray,支持最多 5 个标准插槽、1 个 OCP 3.0 NIC |
|
网络 |
支持最多 8 个400G GDR NIC 可选支持 1 张 DPU,支持 S5 供电 可选 1 个 OCP 3.0 NIC,可选 PCIe 5.0 x8/x16,支持 NCSI 支持 1 个 1Gbps RJ45 BMC 专用管理口 |
|
RAID 卡 |
可选支持 12Gb/s SAS HBA 或 RAID 卡 |
|
本地存储 |
配置 1:8 个 2.5" NVMe/SAS/SATA SSD 配置 2:16 个 2.5 硬盘,8 个 U.2 NVMe+8 个 SAS/SATA SSD 1 个板载 M.2,(PCIe 3.0 x4 ,2280&22110) |
|
I/O 端口 |
前置:2 个 USB 3.0,1 个VGA 接口,1 个 RJ45 管理口,1 个串口 |
|
风扇 |
20 个 8080 风扇,支持 N+1 冗余,支持热插拔 |
|
电源 |
支持 10 个 CRPS 电源模块,支持热插拔,支持 N+N 或 N+1 冗余 配置 1:10 个单输入电源,3200W,钛金级 配置 2:10 个双输入电源,3200W,钛金级 |
|
管理功能 |
集成 BMC 管理芯片AST2600,支持 IPMI2 .0、Redfish、SOL、KVM、虚拟媒介等功能 提供 1 个 1Gbps RJ45 专用管理口 |
|
安全功能 |
可选TPM 安全模块,支持机箱开盖入侵检测、加锁机箱上盖板(免工具) 支持 BMC 双flash 冗余设计 |
|
机箱尺寸 |
宽448mmx 高441 .5mm x 深900mm |
|
上架套件 |
支持 L 型托架 |
|
环境参数 |
工作温度:5ºC - 35ºC 工作湿度:10%to 90% |
|
操作系统支持 |
支持 Microsoft Windows Server、Red Hat Enterprise Linux、CentOS、Ubuntu 等主流操作系统 |