根据特斯拉投资者索耶·梅里特 (Sawyer Merritt) 周四在 X（前身为 Twitter）上发布的帖子，特斯拉和 xAI 之间的人工智能愿景今年已花费约 100 亿美元将训练和推理计算能力引入线上。
梅里特指出：“特斯拉已经在德克萨斯州 Giga 部署了 29,000 台 Nvidia H100 集群，并正在提前进行培训，到 10 月底将拥有 50,000 台 H100 容量，到 12 月将拥有约 85,000 台 H100 等效容量。”
到今年年底，Elon Musk 的公司（Tesla 和 xAI）仅在 2024 年就将价值约 100 亿美元的训练计算能力引入线上。
特斯拉已经在德克萨斯州 Giga 的 29,000 台 Nvidia H100 集群上部署并提前进行了培训 – 并且将会…… pic.twitter.com/Ug vmsBLuQp
—索耶·梅里特 (@SawyerMerritt) 2024 年 10 月 29 日
特斯拉还在 8 月份推出了 Cortex AI 集群，该集群将用于训练该公司的全自动驾驶系统，并使用 50,000 个 Nvidia H100 GPU 以及特斯拉自己开发的另外 20,000 个 Dojo AI 芯片。特斯拉于 9 月推出的 Colossus 超级计算机使用的 H100 GPU 数量与 Memphis 一样多，并计划在未来几个月内再扩展 50,000 个 H100 和 50,000 个 H200 GPU。
另一方面，xAI 于 7 月开始在其位于田纳西州孟菲斯市旧伊莱克斯生产工厂的计算超级工厂组装孟菲斯超级计算机。马斯克声称孟菲斯是“世界上最强大的人工智能训练集群”，因为它运行在 100,000 个 Nvidia H100 GPU 上， 马斯克承诺在短期内将这一容量提高一倍。它于 9 月上线，此后的任务是在今年 12 月之前构建“从各个指标来看世界上最强大的人工智能”——很可能是Grok 3 。 xAI 尚未透露孟菲斯的建造成本，但Tom's Hardware估计该公司仅在 GPU 上就花费了至少 20 亿美元。
100 亿美元的数字实际上是马斯克 4 月份声称的特斯拉今年在人工智能计算能力上支出的一半。 “特斯拉今年将花费约 100 亿美元用于联合训练和推理人工智能，后者主要用于汽车领域，”他当时发帖称。 “任何公司的支出如果不达到这个水平，而且效率不高，就无法竞争。”
按照这个标准，马斯克的人工智能努力已经落后于微软、OpenAI 和谷歌等财力雄厚的竞争对手。例如，7 月份， 分析师估计OpenAI 将在人工智能计算上花费约 70 亿美元，同时在其他运营成本上损失约 50 亿美元。不过，该公司于 10 月初宣布，最新一轮投资资金总额为 66 亿美元，投后估值为 1570 亿美元。该公司在公告中写道：“新的资金将使我们能够加倍加强在前沿人工智能研究方面的领导地位，提高计算能力，并继续构建帮助人们解决难题的工具。”
根据路透社周四的报道，微软和 Meta 都在自由花钱来构建各自的人工智能计算能力。据报道，微软每个季度的资本支出与 2020 年之前的每年支出一样多。该公司还报告称，其资本支出在 2024 年第一季度增加了 5% 以上，达到 200 亿美元，并预计支出更多在第二季度。另一方面，Meta 在 2024 年每个季度花费的资本与 2017 年之前每年花费的资本一样多。
至于谷歌， 据报道其2024 年第三季度资本支出为130 亿美元，较去年同期增长 63%。更重要的是，自今年年初以来，该公司已在计算基础设施上投入了约 380 亿美元，比 2023 年前三个季度增长了 80%。突然之间，两家公司和几个项目之间的 100 亿美元似乎显得有些古怪。