生成式人工智能席卷千行百业,智算基础设施建设进入快车道。大模型参数规模持续攀升,训练与推理任务对异构算力、内存带宽和互联吞吐提出近乎苛刻的要求;企业真正需要的,是一台能够同时承载训练与推理负载、既能跑得动大模型又能服务千行应用的"多面手"。TG669V3正是为此而生:以"训推一体"为设计原点,让一台服务器在不同业务阶段、不同应用场景之间自如切换,把每一分算力投资都用到刀刃上。
卓越性能:把异构算力"喂"到极限
TG669V3支持2颗AMD EPYC 9004/9005系列处理器,单颗TDP高达500W,为整机提供强劲的通用计算底座;GPU侧支持业界多种主流AI加速卡,最多可支持8张双宽GPU,单卡TDP最高600W,每张卡均可获得PCIe 5.0 x16全带宽通道,充分释放极致异构算力。
针对多卡协同场景下"算力容易被互联带宽卡脖子"的顽疾,TG669V3支持PCIe Switch x32上行,并支持Fabric高效互联,让GPU之间、GPU与CPU之间的数据流动更加顺畅,充分发挥每一张加速卡的算力潜能。内存方面,整机支持24个DDR5内存插槽,最高速率6400MT/s,为大模型加载、海量数据预处理提供大容量高速内存空间。
配置丰富:一台服务器,多种"玩法"
不同的AI负载,对GPU互联拓扑有着截然不同的偏好。TG669V3支持直通和PCIe Switch两种架构,可选多达8种GPU拓扑,灵活匹配训练、推理、虚拟化、高性能计算等不同应用场景需求。
扩展能力同样是TG669V3的强项:整机最多支持15个标准PCIe插槽加1个OCP 3.0网卡插槽,PCIe 5.0插槽数量根据互联方案最高可达13个;存储方面最多支持12个3.5英寸硬盘(兼容2.5英寸)、最高8个U.2 NVMe SSD以及1个M.2系统盘,并可选支持12Gb/s SAS HBA及RAID卡,无论是海量训练数据集还是高并发推理缓存,都能找到合适的存储落点。
极致散热:为高负载"冷静"护航
GPU功率持续攀升,散热与供电正在成为AI服务器设计能力的"试金石"。TG669V3对整机风道进行极致优化,满足600W被动散热GPU的散热要求;整机配备15个8056风扇,支持N+1冗余与热插拔,支撑长时间满负荷运行。
供电方面,TG669V3最大可配置8个CRPS电源模块,支持热插拔,可选2000W/2700W/3200W/3600W多种功率等级,电源供电经针对性优化,支持N+N冗余,提供充沛、可靠、弹性的能源保障。
智能管理:把运维装进"芯片"里
算力规模越大,稳定性与可管理性就越值钱。TG669V3集成BMC管理芯片AST2600,提供开放的管理平台,支持IPMI 2.0、Redfish、SNMP等多种管理协议,具备远程KVM、虚拟媒介、关键部件状态监控、异常报警等功能,实现全面的远程系统级智能管理。运维人员无需进驻机房,即可对整机状态了然于胸,让大规模集群管理化繁为简。
全场景覆盖:从模型训练到产业落地
TG669V3的应用版图十分广阔:在AI训练场景,多台服务器高速互联组建智算集群,支撑大模型预训练与微调;在AI推理场景,高密度GPU与灵活拓扑为生成式AI、智能客服、图像识别等在线业务提供高并发算力;此外,在科学计算、仿真模拟等高性能计算场景,以及大数据分析、数据仓库与数据中台建设中,TG669V3同样游刃有余。
一台好服务器背后,是一家厂商对算力场景的长期理解。从单台训推一体服务器,到大规模智算集群,同泰怡希望与客户一起,把算力变成真正驱动业务增长的生产力。算力的竞赛,归根到底是底座能力的竞赛。同泰怡TG669V3训推一体AI服务器为AI训练与推理、高性能计算与数据分析提供了一个可靠而富有余裕的选择。在智能化浪潮奔涌向前的今天,这样的算力底座,正当其时。
更多产品详情,欢迎咨询专属销售代表。
24小时服务热线:4006528669