亚洲初创企业正在尝试提供比行业巨头Nvidia更好的芯片解决方案，特别是针对某些应用。尽管Nvidia的图形处理单元在人工智能领域占据主导地位，但该地区的初创企业认为，GPU的高能耗和笨重设计留下了市场空白，新来者可以填补。
人工智能芯片有两种基本类型：一种是用于操作现有人工智能模型的“推理”芯片；另一种是用于开发新的人工智能模型的高性能数据处理组件的“训练”芯片。例如，OpenAI需要数万个训练芯片来开发其ChatGPT聊天机器人的新模型，但ChatGPT回答问题时则需要使用推理芯片。
日本人工智能独角兽公司Preferred Networks首席执行官Toru Nishikawa表示，没有人能提出完美的推理芯片架构。他认为该领域的架构将发生巨大变化……谁能以最低的价格提供合适的架构，谁就能获胜。
Preferred Networks在开发训练芯片的同时，也将新兴的推理芯片市场视为测试其产品能效资质的机会。Nvidia的成功主要来自于训练的蓬勃发展，这要归功于其GPU能够处理AI模型开发所需的大量并行计算。然而，Nvidia的数据中心AI芯片单价为2.5万至4万美元，比传统产品贵七到八倍。如果推理芯片的成本与训练芯片相同，那么这种商业模式将永远无法持续，Nishikawa说。
Nvidia的头号问题之一是价格。一位分析师表示：“一块Nvidia芯片的价格可能高达25,000美元，这对想要投资AI的公司来说是一个负担。”Nvidia的供应商也已经指出了价格问题。
这些新来者包括由软银愿景基金支持的美国公司SambaNova Systems、由前英特尔工程师创立的Tenstorrent，以及最近被软银收购的英国公司Graphcore。此外，谷歌、Meta和亚马逊网络服务等大型科技公司也加入其中，更不用说Nvidia的竞争对手AMD了。
随着大型科技公司开始提供用于自身服务的专用AI芯片，预计在2025年至2026年期间将有更多新参与者进入目前由Nvidia占据的市场。