特斯拉首席执行官兼 Twitter/X 所有者埃隆·马斯克周一宣布，他的人工智能初创公司 xAI 已正式开始训练其孟菲斯超级计算机，他将其描述为“世界上最强大的人工智能训练集群”。
一旦全面投入使用，马斯克计划使用它构建“到今年 12 月，从各个指标来看，世界上最强大的人工智能”，这可能就是 Grok 3 。
@xAI团队、 @X团队、 @Nvidia和 @xAI 团队的出色工作支持公司接受孟菲斯超级集群培训的时间为当地时间凌晨 4:20 左右。
在单个 RDMA 结构上拥有 10 万个液冷 H100，它是世界上最强大的 AI 训练集群！
—埃隆·马斯克 (@elonmusk) 2024 年 7 月 22 日
xAI 的“计算超级工厂”是超级计算机所在的地方，位于田纳西州孟菲斯的前伊莱克斯生产工厂，于上个月刚刚宣布。根据 Musk 的说法，训练集群将使用 100,000 个 Nvidia 的 H100 GPU。这些基于Hopper 微架构，其网络大约是当前最先进集群的四倍。其中包括阿贡国家实验室的 60k Intel GPU Aurora 、橡树岭的约 38k AMD GPU Frontier ，以及运行 14,400 个 NVIDIA H100 GPU 的 Microsoft Eagle 。
大孟菲斯商会总裁兼首席执行官Ted Townsend表示，开设该培训设施是孟菲斯历史上新进入市场的公司最大的资本投资。他表示，这台超级计算机将“首先为他的所有（马斯克的）公司，尤其是特斯拉和 SpaceX 的人工智能领域提供燃料和资金”。 “如果你能想象将人类安置在火星表面所需的计算能力，那么这将会发生在孟菲斯。”
然而，尽管 xAI 投资了数十亿美元，但该设施预计只能为当地创造数百个就业岗位。更重要的是，根据WREG 的报告，“[田纳西河谷管理局] 没有与 xAI 签订合同”。
他们“正在与 xAI 以及我们在 [孟菲斯照明、天然气和水务] 的合作伙伴合作，研究提案和电力需求的细节。” TVA还指出，任何超过100兆瓦（MW）的项目都需要获得其批准才能连接到该州电网。 MLGW 总裁 Doug McGowen 估计，马斯克的设施在高峰使用期间可能会消耗 150MW 的电力。