The Growing Compute Shortage
5 days ago
- 计算正成为如同《沙丘》中'香料'一样不可或缺的资源，驱动人工智能，同时因供应链瓶颈制约增长。
- AI工作负载，尤其是代理系统，现在消耗的token量是传统聊天机器人的100到1000倍，加速了需求增长。
- 存在多个同时发生的瓶颈：GPU短缺、内存价格飙升、台积电产能售罄，以及电力基础设施限制。
- 稀缺性正在重新定价资产，例如拥有电力和电网接入的比特币矿工，现在被视为具有战略价值的'拉撒路资产'。
- 计算资源的获取正在成为竞争护城河，获得长期供应的公司比没有的公司更具优势。
- 更高的推理成本可能减缓AI的采用，将资源集中在高价值应用上，并使小型企业处于不利地位。
- AI竞赛已从软件竞争转变为工业规模的基础设施竞赛，争夺芯片、内存、电力和土地。