Google 宣布新一代 AI 芯片 TPU v5e

Google 宣布了其自己设计自己使用的新一代 AI 芯片 TPU v5e，它的 TPU 芯片只通过 Cloud TPU 云服务提供给客户。Google 是在 2016 年推出了第一代 TPU(tensor processing unit)，2021 年发布 TPU v4。相比上一代 TPU v4，TPU v5e 每一美元的训练性能提高 2 倍，每一美元的推理性能提高 2.5 倍，而成本不到 TPU v4 的一半，使得更多组织能够训练和部署更大更复杂的 AI 模型。TPU v5e 最多允许 256 个芯片互连，总带宽超过 400 Tb/s，支持八种不同的虚拟机配置。根据速度基准测试，在 TPU v5e 上训练和运行 AI 模型时速度提高了 5 倍。