八戒装机

您现在的位置是:首页 < IT资讯 <

谷歌用第四代 TPU 加速器建立最大的机器学习中心

2022年08月23日 10:00:09 小猪 IT资讯

  继去年发布第四代 TPU 加速器之后,在 Google I/O 2022 上,Google 宣布八组 Cloud TPU v4 Pod 计算设备将组成最大的机器学习中心,并强调使用 90% 无碳驱动的能量。

谷歌用第四代TPU加速器打造最大机器学习中心-图示1

  在之前的描述中,谷歌表示第四代 TPU 加速器的计算性能比上一代提升了一倍,由 4096 组第四代 TPU 加速器组成的 POD 计算设备也可以对应超过 1 exaFLOPS计算性能。该机器学习中心由 8 套 Cloud TPU v4 Pod 计算设备组成。峰值运算可达到每秒 900 万 teraflops,使其成为全球最大的公共机器学习中心,并将通过 Google Cloud 服务向公众开放。

  包括 Cohere、LG AI Research、Meta AI 和 Salesforce Research 在内的行业团队实际上已经体验过 Google 的机器学习中心。它可以通过TPU VM架构搭建交互式开发环境,可以灵活应用JAX和PyTorch等机器学习框架,或者TensorFlow。此外,更快的互连和优化的软件堆栈功能创造了更好的性能和可扩展性。

  谷歌这次在 Google I/O 2022 上提到的 PaLM(Pathways Language Model)语言模型是通过 2 组 TPU v4 Pods 训练出来的,对应更快的语言翻译和理解。

文章评论

共有5条评论来说两句吧...