人工智能

谷歌宣布第 6 代 Trillium TPU:性能提升 4.7 倍、内存带宽翻番、节能 67%

5 月 15 日消息,谷歌公司在今天召开的 I / O 2024 开发者大会上,宣布了第六代数据中心 AI 芯片 Tensor 处理器单元(TPU)--Trillium,并表示将于今年晚些时候推出交付。

谷歌首席执行官桑达尔・皮查伊(Sundar Pichai)表示:“谷歌就是为这一刻而生的。十多年来,我们一直是 GPU 的先驱。”

皮查伊表示新款 TPU 交付之后,每块芯片的计算性能将比第五代提升 4.7 倍。谷歌是通过扩大芯片的矩阵乘法单元(MXU)和提高整体时钟速度来实现这一目标的。此外,谷歌还将 Trillium 芯片的内存带宽提高了一倍。

Trillium 采用了第三代 SparseCore,谷歌将其描述为“在高级排名和推荐工作负载中,处理常见大规模任务的专用加速器 "。该公司认为,这可以让 Trillium TPU 更快地训练模型,并以更低的延迟为模型提供服务。

皮查伊还将新芯片描述为谷歌迄今为止“最节能”的 TPU,这一点在人工智能芯片需求持续成倍增长的情况下尤为重要。

IT之家翻译皮查伊部分内容如下:”在过去六年中,行业对 ML 计算的需求增长了 100 万倍,大约每年增长 10 倍。如果不投资降低这些芯片的功耗需求,这种情况将难以为继。谷歌承诺,新的 TPU 比第五代芯片节能 67%”。

希望看到您的想法,请您发表评论x