记者实探：可容纳20个千亿级参数模型训练新型数据中心如何参与算力迭代？天天快播

第一财经 2023-06-12 22:39:07

“比方说我们这个机柜里面，总共有10台服务器，根据功率，每个机柜会安装8到16台服务器，根据不同的需求和功能，实现计算和存储。”在位于安徽芜湖的中国电信云计算中心，总经理张运保向记者介绍数据中心的运营情况。

2022年初，随着国家发改委等四部门联合批复，十个国家数据中心集群规划正式公布，其中“芜湖集群”赫然在列。

【资料图】

政策引导下，芜湖市迅速启动算力“新基建”，一年多来，芜湖市累计招引重点项目11个、总投资接近2300亿元，其中不乏中国电信、联云世纪、华为云等投资超百亿的数据中心项目。

芜湖电信云计算中心，工作人员正在进行机房巡检

早在2017年，中国电信就将芜湖作为31个云资源骨干节点之一，规划建设集团级云计算中心。“目前已经建成的数据中心机架总规模有1.5万架，可容纳的服务器的话有15万台，算力资源有50万核。”芜湖云计算中心总经理张运保向记者介绍道，“我们目前部署的算力资源以通用算力为主，后续通过一些高性能的CPU，我们也在部署一些智算的能力。”

从通用算力到智能算力

数据中心建设赢来新机遇新动能

当数据成为新的经济要素，算力也就成为了数据发挥价值的关键驱动力，引发了全球对于人工智能大模型的高度关注，在公众“围观吃瓜”之前，业内已经先行一步。

位于上海临港的商汤科技人工智能计算中心（AIDC），面向的正是人工智能时代爆发的大模型训练需求。

位于上海临港的商汤人工智能计算中心

“从硬件层面来说包含了我们各类服务器、各类芯片组成的一个计算集群，以及我们所有的AI计算平台、数据平台、网络等。” 在商汤科技大装置事业群智算中心总经理林海看来，AIDC是需要打通软件和硬件，组成可以进行模型生产的通用基础设施。“目前为止我们可以实现4000卡GPU的单项任务的训练，整个的并行效率可以达到91.5%，我们在这个园区里边可以容纳的训练任务，可以实现20个千亿级参数的模型的训练。”

据了解，商汤早在2018年便开始布局人工智能计算原型机的研制，去年初，AIDC正式在上海临港启动运营，在市场人士看来，商汤已拿到了智能算力时代的“船票”。

头部玩家群雄逐“数”

带动云、软件、芯片产业重塑

与商汤类似，作为国内领先的ICT企业，华为在2019年发布了由数千颗昇腾910处理器组成的AI训练集群Atlas 900。在上海超级中心的数据机房，记者见到了这台号称“全球最快”的服务器机柜。

“从体积上来说，它跟我们传统的机柜是同样的，采用42U的设计，但是通过我们对于网络、存储和人工智能计算算力的高度集成，它单机柜可以实现20P算力。” 上海昇腾人工智能生态创新中心COO张中阳告诉记者。

上海超算中心机房搭载的华为Atlas900服务器

立足于全栈自研的数据中心解决方案，华为推出了业界唯一覆盖“端、边、云”全场景的达芬奇架构处理器，发布了包括支持通用计算的鲲鹏系列，支持AI的昇腾系列，支持智能终端的麒麟系列及支持智慧屏的鸿鹄系列，“应该是把昇腾称之为NPU，实际上N它代表的就是神经网络计算，我们其实也是希望能够在人工智能领域里面，推出一款专用的AI计算的芯片。”张中阳谈到。

从芯片到软件到云平台，华为给出了支撑智能算力的国产答卷。

进入算力基建化时代

绿色+低碳成为数据中心建设新命题

来自国家网信办的数据显示，截至2022年底我国数据中心机架总规模已超过650万标准机架，近5年年均增速超过30%。

面对大规模数据计算产生的热能，传统方式是使用空调降温。而在中国电信芜湖云计算中心即将启用的机房内，“冷水主机+板换+冷却塔”的联合供冷模式让人耳目一新。

芜湖电信云计算中心水冷机房

“它跟我们早期的风冷相比，整个单位能耗就下降得非常多，通过冷水和热水的交换，实际上实现了制冷的效果。” 芜湖云计算中心总经理张运保向记者介绍道。

商汤的AIDC则运用了一整套智能决策的系统来降低PUE，“在我们的训练任务上来的时候，我们的IT功耗的水平，IT负载力的水平，跟外部的气候条件以及跟我们所有设备运行的参数，这三者之间实际上是一个联动关系。” 商汤科技大装置事业群智算中心总经理林海认为，解决能耗的问题，还需要借助AI管理的手段。

高能耗背后

隐含算力资源供需失衡的深层次矛盾

数据中心的投资可以带来较高的经济外部性、利润溢出效应。但算力要动起来，要与数据连同，才能将价值发挥出来。

在安永大中华区数字化与新兴科技合伙人王志远看来，当前我国算力供需存在“旱的旱死涝的涝死”这一结构不平衡现象。