在江苏省南京市中國(guó)電(diàn)信吉山(shān)数据中心,一辆白色的大型卡車(chē)吸引了众多(duō)来访者的注意,然而这辆看似普通的卡車(chē)却内藏乾坤,蕴含大量智能(néng)算力。这辆車(chē)名為(wèi)“智能(néng)算力車(chē)”,由中國(guó)電(diàn)信联合烽火通信打造,以满足客户数据不出域、灵活训练大模型的算力需求,实现全國(guó)调度、随用(yòng)随到、安全可(kě)靠。
“智能(néng)算力車(chē)”创新(xīn)概念由中國(guó)電(diàn)信首次提出,顾名思义是将计算资源整合至車(chē)载平台,搭建算力网络,通过对算力资源的有(yǒu)序调度来满足数据敏感类客户在特定场景下,对高安全性、高私密性、快速部署的算力任務(wù)需求,為(wèi)用(yòng)户提供便捷高效的移动计算能(néng)力服務(wù)。
烽火通信承接了“智能(néng)算力車(chē)”集装箱微模块部分(fēn)的设计、制造及交付。单體(tǐ)移动算力車(chē)搭载了8台烽火FitSever G440K V2高性能(néng)训练服務(wù)器,每台设备配备了8张高性能(néng)训练卡,通过底层交换架构实现多(duō)卡互联,充分(fēn)加速中小(xiǎo)型规模的模型训练任務(wù)。同时,車(chē)内还集成了配電(diàn)和UPS两大模块,以及制冷和监控两大系统,全方位為(wèi)算力車(chē)内外部提供动能(néng)支持和状态监控,保障稳定运行。
相较传统机房高额的建设投入、漫長(cháng)的建设周期与复杂的后期维护,“智能(néng)算力車(chē)”具有(yǒu)灵活部署、安全可(kě)靠、便捷省心的特点,并具备独立节点与集群组网两种解决方案。
在独立节点方案下,以一组算力車(chē)為(wèi)完整计算单元,基本十天左右可(kě)完成特定行业的模型训练任務(wù),做到完全物(wù)理(lǐ)隔离,保障用(yòng)户数据的私密性和安全性;同时对环境要求低,仅需提供車(chē)辆停放场地和自来水水源,即停即用(yòng),同城可(kě)实现24小(xiǎo)时内部署完成,本省异地城市區(qū)域隔日抵达,支持全國(guó)调度。
在多(duō)車(chē)集群组网方案下,采用(yòng)Spine-Leaf架构,实现多(duō)車(chē)算力互联,支持中大型模型的训练任務(wù),集群扩展能(néng)力可(kě)弹性伸缩,客户可(kě)根据需求灵活增减算力规模。
近日,“智能(néng)算力車(chē)”解决方案首次在江苏落地,随后将驶往雄安電(diàn)信数据中心开展交通大模型训练。
烽火通信将携手中國(guó)電(diàn)信,持续深化算力車(chē)功能(néng)定制与开发适配层面的合作,共同推动其在应急通信、重大工程外场保障方面的应用(yòng),并坚持技术创新(xīn),不断探索多(duō)車(chē)互联、训推一體(tǐ)等方案从试点到规模商(shāng)用(yòng)。