OpenAI甩掉英伟达，谷歌TPU“横刀夺爱”
本月初，英伟达超越微软，重新获得全球市值第一的宝座，被认为是从DeepSeek带来的冲击中缓过了劲。但是按葫芦浮起瓢，作为AI行业的“领头羊”，OpenAI最近站了起来，给英伟达增添了麻烦。依据海外媒体The 根据Information的相关报道，OpenAI准备将谷歌的TPU芯片列入采购清单，以支持ChatGPT和其他AI产品。
在此之前，OpenAI的大模型预训练和推理都依赖于英伟达GPU，这也使得它成为后者最大的计算率芯片买家。这一次，将TPU芯片转换为谷歌，意味着OpenAI正试图摆脱对英伟达的依赖，从而实现计算率芯片供应的多样化。与此同时，继苹果之后，谷歌的TPU再次获得了AI制造商的订单，这使得它完全摆脱了“自己玩具”的定位。
OpenAI之所以选择用谷歌TPU来代替一些英伟达GPU，其实很简单，因为后者的价格太高，太受欢迎。据报道，英伟达的旗舰芯片B200拥有2080亿晶体管和192GBHBM3E内存空间，提供8TB/s内存带宽，采用Blackwell架构，AI性能可达FP8和新FP620PFLOPS，是上一代Hopper框架H100计算性能8PFLOPS的2.5倍。
但英伟达DGX配置8个B200。 B200 根据摩根士丹利的相关报告，AI服务器的价格高达50万美元，英伟达Blackwellll。 未来12个月GPU的生产能力已被预定为空。
相比之下，谷歌TPU芯片的价格更便宜。Apple由苹果制造 Foundation 以谷歌TPUv5p为例，在Model模型中购买。虽然双方都没有披露这个订单的具体信息，但业内普遍认为TPUv5p的价格可能超过1000美元。
实际上OpenAI和谷歌AI模型API定价，TPUv5p的低成本特性也可以从侧面得到证实。GPT-o3提供的OpenAI旗舰模型输入价格为10美元/百万tokens。、出口价格为40美元/百万tokens，谷歌旗舰模型Geminini 2.5 Pro的输入价和输出价分别为1美元/百万tokens和4美元/百万tokens。
超高的性价比促使Gemini 2.5 Pro在出现后不久就受到AI行业的青睐，毫无疑问，TPU芯片居功至伟。AI领域，TPU(专用向量Cpu)高度特化比GPU(图形处理器)便宜。同时也是谷歌专门为加快机器学习中的张量(矩阵)计算而设计的定制硬件，采用脉动阵列。（Systolic Array） 通过流水线式数据流高效处理矩阵乘法，减少了数据移动和内存浏览的延迟。
事实上，TPU是一种专为自然语言理解、图像识别等典型AI任务而设计的芯片，与通用GPU有很大不同。最初，英伟达的GPU服务于图形渲染，而实现高性能图形渲染的一个重要方法就是并行计算。例如在渲染1920×在1080分辨率图像中，GPU将向4000个核心同步分配400万像素，每个核心只需完成“该像素应该显示什么颜色”的简单指令即可。
因此，CPU通常只有十几个核心，而GPU的关键规模却达到了数以千计的原因。在AI时代，由于AI场景通常需要处理大规模数据和复杂的计算任务，所以它们通常处于高度并行的状态，因此自然更适合选择并行计算的GPU。再加上英伟达十余年的并行计算框架CUDA，直接将其GPU切入AI计算领域。
总之，类似“瑞士军刀”的GPU功能齐全，不仅可以用来渲染图形，还可以用来练习和推理AI，而TPU的用途非常简单，只适合AI计算。
对于OpenAI来说，图形渲染能力显然对他们来说毫无价值，并行计算能力是所需的资源。从某种意义上说，在过去的几年里，当OpenAI购买英伟达GPU时，它一直在“购买还珠”。
那么问题来了。早在2018年，谷歌的TPU芯片就开始了外销和商业化的步伐。为什么OpenAI要到2025年才列入采购清单？事实上，这是由于DeepSeek。它通过稀疏训练、动态网络结构和混合专家系统（MoE）等待项目创新，让大型模型完成低成本的练习和部署。
不仅如此，DeepSeek作为开源模型的成功，还让相当一部分AI厂商放弃了大型跑道，转向了智能体和AI应用。以至于自2025年以来，曾经被各大AI厂商谈到的“预训练”正逐渐被“推理”所取代，推理需求的增长曲线变得非常陡峭。
简而言之，行业对推理计算能力的需求实际上比培训计算率更大。除了大工厂，AI企业家也放弃了建立更强大的AI模型的想法，然后开始利用现有的AI模型能力提供AI视频、AI生图、AI代码等服务。就在谷歌的TPUv5p支持推理任务中的混合精度，可以很好地平衡精度和速度，更适合提供推理率。
因此，尽管在CUDA生态的加持下，英伟达GPU在AI训练方面是无与伦比的，但是DeepSeek戳破了训练计算能力需求的泡沫，给了OpenAI实现计算率供应多样化的机会。但这对国内AI厂商来说也是个好消息，毕竟英伟达在CUDA生态方面的积累并不是一蹴而就的，但是现阶段用TPU代替GPU更可行。
本文来自微信微信官方账号“三易生活”（ID：IT-作者：三易菌，36氪经授权发布，3eLife)。
本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。
免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com