LONGFORM READING

马斯克宣布,再买42万颗GPU

公众号记得加星标⭐️,第一时间看推送不会错过。 SpaceX旗下的AI算力基础设施建设,正在进一步提速。 当地时间10月31日,埃隆·马斯克(Elon Musk)披露了Colossus 2数据中心的最新建设进展。除了此前已经部署的Macroharder和Minihard两大计算集群,SpaceX还在建设两个新的计算集群,分别命名为Gun Range和Spam,计划新增约42万颗英伟达GB300 G

公众号记得加星标⭐️,第一时间看推送不会错过。 SpaceX旗下的AI算力基础设施建设,正在进一步提速。 当地时间10月31日,埃隆·马斯克(Elon Musk)披露了Colossus 2数据中心的最新建设进展。除了此前已经部署的Macroharder和Minihard两大计算集群,SpaceX还在建设两个新的计算集群,分别命名为Gun Range和Spam,计划新增约42万颗英伟达GB300 GPU。 按照马斯克披露的信息,Gun Range将配置约22万颗GB300,采用与Macroharder、Minihard相同的训练集群配置,预计11月底投入运营。Spam则计划部署约20万颗GB300,主要用于AI推理,预计12月投入运营。 如果这两个集群按计划建成,Colossus 2将进一步扩大其在全球AI算力基础设施领域的规模。 值得注意的是,这次扩建并不只是简单地增加GPU数量。马斯克特别提到了一个细节:虽然Gun Range和Spam都将部署数十万颗GB300,但由于两者承担的任务不同,其网络架构也将存在明显差异。 这也折射出超大规模AI数据中心建设的一个重要趋势:训练和推理,正在推动算力基础设施走向不同的配置路线。 42万颗GB300,两个新集群即将上线 先来看两个新集群的具体配置。 根据马斯克的介绍,目前Macroharder和Minihard两个集群均配置了约22万颗GB300 GPU,并采用800Gbps网卡,主要用于AI模型训练。 即将建设完成的Gun Range将沿用这一配置,同样部署约22万颗GB300,并采用800Gbps网络配置,预计在11月底投入运营。 相比之下,Spam的定位有所不同。 这一集群计划部署约20万颗GB300,主要承担AI推理任务。马斯克表示,由于推理集群的网络架构相对简单,Spam所需的光纤数量不到训练集群的一半。 从这组数据来看,SpaceX并没有简单地将所有GPU集群按照同一种方式建设,而是根据训练和推理的不同需求,对网络基础设施进行差异化配置。 另外,Spam这个名字也有一个有意思的来历。马斯克透露,该建筑此前曾用于存放美国肉类加工企业Hormel Foods的产品,因此沿用了Spam这一名称。Gun Range则来自当地警察部门此前使用的射击场,SpaceX收购了相关场地。 两个名字背后,实际上都是SpaceX通过改造既有建筑、加快数据中心建设进度的一个缩影。 训练与推理,网络需求为何差异如此之大? 这次披露中,最值得关注的其实不是42万颗GPU,而是训练集群与推理集群在网络配置上的差异。 对于大规模AI模型训练而言,GPU之间需要进行大量的数据交换和同步。尤其是在数十万颗GPU组成的分布式训练集群中,计算任务会被拆分到不同GPU和服务器上执行,随后还需要通过高速网络交换梯度、参数及其他中间数据。 这意味着,GPU之间的通信效率会直接影响整个集群的训练效率。即使单颗GPU拥有很强的计算能力,如果网络带宽不足、通信延迟过高,也可能出现GPU等待数据、计算资源无法充分利用的情况。 因此,大规模训练集群不仅需要大量GPU,还需要与之匹配的高速网络、交换设备和光纤互连系统。Macroharder和Minihard采用800Gbps网卡,Gun Range也将沿用相同配置,正是这一思路的体现。 推理集群则有所不同。 模型训练需要大量GPU协同完成计算,而推理主要是利用已经训练好的模型处理用户请求。虽然大规模推理同样可能涉及多GPU协同、模型并行以及节点之间的数据交换,但其通信模式取决于模型部署方式、服务架构和负载特征,并不一定需要完全复制训练集群的网络配置。 例如,在采用模型副本部署的场景下,不同推理实例可以相对独立地处理请求,跨节点通信需求与大规模分布式训练有所不同。 这也解释了为什么马斯克强调,Spam虽然计划部署约20万颗GB300,但网络架构可以简单得多,光纤用量不到训练集群的一半。 当然,光纤数量减少并不意味着推理集群不需要高速网络。随着模型规模扩大、上下文长度增加,以及推理服务向多节点部署发展,推理侧的网络性能同样会成为重要的系统设计因素。 从这个角度看,SpaceX的建设方案体现了一个值得关注的方向:AI数据中心正在从单纯追求GPU数量,转向根据不同工作负载优化计算、存储和网络之间的配置关系。 Colossus 2,向120万颗Blackwell迈进 把这次扩建放到Colossus 2整体建设进度中来看,规模就更加惊人了。 今年9月,马斯克曾披露Colossus 2的GPU部署情况。当时,该数据中心已经拥有约11万颗GB200和44万颗GB300,并计划继续分批增加GB300。 SpaceX在2026年6月提交的欧盟招股说明书中,也披露了Colossus 2此前的建设速度:

about image

分享这篇内容

让更多人看到这份有价值的赛事观察。

TRENDING DESK

热点新闻

快速查看当前内容池中正在被关注的文章。

麦克托米奈续约谈不拢,那不勒斯中场计划该不该为他让路?

麦克托米奈续约谈不拢,那不勒斯中场计划该不该为他让路?

麦克托米奈的续约谈判被曝出双方存在分歧,那不勒斯留住核心球员的方式再次成为话题。据报道,球员一方与俱乐部之间的立场仍有差距,但这只是被报道的谈判立场,并不等于转会已经确定。 谈判消息很容易被读成下一个转会窗口的预告。更值得追问的是:那不勒斯的中场计划,究竟有多少依赖他这种特定角色。 麦克托米奈的价值不只在身价。一名能插进禁区的中场,会改变对手防守中锋的方式——中锋牵制两名中卫,插上的中场则攻击那些
深一度|那个被篮球耽误的斯塔德迈尔,实现了儿时的警察梦

深一度|那个被篮球耽误的斯塔德迈尔,实现了儿时的警察梦

北美职业体育联盟里,名人堂级别的球星在退役之后选择与篮球无关的基层岗位“再就业”,这种情况几乎凤毛麟角。那些千万富翁甚至是亿万富翁,大多选择做解说、当老板、干投资或者干脆直接躺平。 但刚刚进入名人堂的“小霸王”阿马雷·斯塔德迈尔却成了这群人中的异类,他成了一名基层警察。 2个多月前,他才站在斯普林菲尔德的讲台上,分享自己入选名人堂的感受;2个月后,他就从迈阿密-戴德学院司法学院基础执法学院毕业,结
热播日剧公开抹黑中国,高市早苗点名要看:把中国人拍成施暴者,设计中方人员对日本情报人员实施切指、刺穿腹部情节

热播日剧公开抹黑中国,高市早苗点名要看:把中国人拍成施暴者,设计中方人员对日本情报人员实施切指、刺穿腹部情节

CCTV国际时讯报道,一线明星参演、每集高成本制作费、高市早苗点名要看——这就是日本TBS电视台最近热播的电视剧《Vivant》(《别班》)第二季,剧中把中国人拍成惨无人道的施暴者,把日本自卫队情报人员美化成正义反击者。 央视新闻披露,剧中设计了中方人员对日本情报人员实施切指、刺穿腹部的情节,这些手段和侵华日军对中国抗日志士使用过的酷刑高度重合,而剧中则颠倒黑白,将其嫁接到现代中国人的形象之上;整
碾压埃迪·豪!曼联换帅锁定头号目标!2000 万强挖世界级名帅

碾压埃迪·豪!曼联换帅锁定头号目标!2000 万强挖世界级名帅

曼联主场 0-3 惨败伯恩茅斯,各项赛事八场不胜,卡里克已经站在下课边缘。 高层紧锣密鼓物色接班人,维拉主帅埃梅里是头号梦想人选,硬实力直接碾压埃迪·豪。 早在夏窗,曼联就盯上了埃梅里,只是当时选择给卡里克转正。 这名西班牙教头履历亮眼,手握欧战冠军,有豪门执教经验,擅长搭建成熟体系,能全方位改造球队。 对比埃迪·豪,埃梅里大赛和欧战履历更厚重,上限更高。 不过挖人代价不小,维拉索要 2000 万
法媒:弗里克执教巴萨两年半仍不会西语,发布会靠助手翻译

法媒:弗里克执教巴萨两年半仍不会西语,发布会靠助手翻译

据法国媒体FootMercato报道,来到巴塞罗那足球俱乐部两年半后,巴塞罗那主帅弗里克仍无法用西班牙语应对发布会,原因是他根本学不会西班牙语,或者至少无法把西班牙语说到能让人理解的正确程度。 弗里克将学习困难归因于年龄,他将在明年2月迎来62岁。无法用当地语言清楚表达,也让弗里克感到受挫,这位前拜仁慕尼黑主帅甚至有些放弃。尽管巴萨以往的外籍教练都学会了西班牙语,但加泰罗尼亚俱乐部并不认为这有什么