10 万卡集群:通往 AGI 的新门票

3个月前 18观看

文章来源:拾象 海外独角兽t4R莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

作者:Dylan Patel,Daniel Nishballt4R莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

编译:Lavidat4R莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

编辑:penny,NCLt4R莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany


t4R莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

图片来源:由无界AI生成图片来源:由无界AI生成


t4R莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

10 万卡集群正在成为美国大模型公司的标配。

为了捕捉 AGI 大基建浪潮中的 beta 机会和价值流向,拾象发布了 AI 时代的纳斯达克指数, AGIX Index在文章中我们讨论过,AI 行业正处于“硬件投入—infra 建设—应用爆发”这三个阶段的初期,因此,硬件和 infra 是 AGIX Index 目前重点覆盖的板块。t4R莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

新一轮 10 万卡集群竞赛再次证明,AGI 的基建投入仍然如火如荼地进行——马斯克高调宣布为 xAI 建设 10 万卡集群,OpenAI/Microsoft、Anthropic/AWS、Meta 等大型 AI 公司也在加紧 10 万卡集群建设,每个集群在服务器硬件上的支出已经超过 40 亿美元。但一个 10 万 H100 集群的建设涉及复杂的技术和运营挑战,远不是砸钱就能解决的问题。t4R莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

大模型训练的本质是把数据通过算力转换成智能。在 AGI 竞赛中,如果 GPU 是核弹,数据中心就是核武器库。作为新一代计算单元,数据中心决定了芯片是否能转化成算力,支持模型实现“跳变式跨越”。t4R莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

在这样的竞赛中,既涉及到电力能源挑战、并行计算、网络拓扑方案、可靠性等各种挑战,也涉及到各环节的头部公司,AGIX Index 中的代表公司英伟达、博通、TSMC、MRVL、SK Hynix、VRT 等仍在大基建浪潮的尖端。t4R莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

本文编译自 SemiAnalysis 对 10 万 H100 集群建设的技术分析,延续我们对数据中心互联的研究,本文将继续聚焦英伟达、博通为代表的硬件公司如何构建大型 AI 训练集群。
t4R莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

本文链接:http://www.mocany.com/showinfo-1-49183-0.html10 万卡集群:通往 AGI 的新门票

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com。天上从来不会掉馅饼,请大家时刻谨防诈骗