AMD、亚马逊等科技巨头，以及SambaNova Systems、Groq等初创公司纷纷瞄准大模型推理侧发力，推出各类定制芯片，在可靠性和成本端不断取得突破。这些新玩家不仅带来了更具性价比的选择，更赢得了重要客户的青睐。
例如，Meta已开始使用AMD的MI300芯片支持其新AI模型Llama 3.1 405B的推理计算；亚马逊的Trainium 2芯片，得到了包括苹果在内的潜在用户的好评。市场研究机构Omdia预计，2024年数据中心在非英伟达芯片上的支出将增长49%，达到1260亿美元。
科技巨头纷纷入局，推理计算成为突破口。 AMD的MI300芯片在发布首年，就预计创造超50亿美元的销售额。与此同时，亚马逊在奥斯汀北部研发了新一代AI芯片Trainium。这些公司声称在推理方面能够提供比英伟达更快的速度、更低的成本和更便宜的价格。
高通CEO Cristiano Amon表示：“真正的商业价值来自于推理，而推理正在开始规模化。”Amon还称，高通计划使用亚马逊的新芯片执行AI任务，并认为变革已经开始。
在成本方面，英伟达现有芯片售价高达1.5万美元，其新款Blackwell芯片预计将达到数万美元。相比之下，竞争对手提供了更具性价比的选择。德克萨斯高级计算中心执行主任Dan Stanzione表示，由于功耗和价格优势，该中心计划在使用英伟达Blackwell超级计算机的同时，采用SambaNova的芯片进行推理任务。
亚马逊展现雄心
亚马逊在AI芯片领域表现出强烈的进取心，今年已投入750亿美元用于AI芯片等计算硬件。其新款Trainium 2芯片的性能是前代产品的4倍，并已宣布更强大的Trainium 3芯片计划。
旧金山AI初创公司Poolside的CTO Eiso Kant估计，相比英伟达的硬件，Trainium 2在每美元计算性能上提升了40%。更重要的是，亚马逊计划在全球数据中心提供基于Trainium的服务，这对推理任务尤为重要。
此外，亚马逊还与AI初创公司Anthropic达成合作，将建造一个包含数十万枚新Trainium芯片的巨型AI工厂，其计算能力将是Anthropic此前使用过的任何系统的5倍。
尽管如此，竞争加剧并不意味着英伟达短期就会失去领先地位。英伟达CEO黄仁勋仍然强调，公司在AI软件和推理能力方面具有重大优势，新款Blackwell芯片的需求依然强劲。
在斯坦福大学的一次演讲中，黄仁勋表示：“我们产品的总拥有成本非常划算，即使竞争对手的芯片是免费的，它们也不够便宜。”
（注：以上内容仅供参考，具体市场情况和数据可能有所变动，请以官方发布的最新信息为准。）
