首页 CPU 亚马逊新款AI芯片Trainium3上市 训练AI模型成本可降50%

亚马逊新款AI芯片Trainium3上市 训练AI模型成本可降50%

麦享科技12月3日消息,亚马逊AWS宣布其新一代自研AI芯片Trainium3正式上市。 作为亚马逊首款采用3nm制程的芯片,Trainium3在计算性能、能效与内存带宽上均实现显…

麦享科技12月3日消息,亚马逊AWS宣布其新一代自研AI芯片Trainium3正式上市。

作为亚马逊首款采用3nm制程的芯片,Trainium3在计算性能、能效与内存带宽上均实现显著提升。

亚马逊新款AI芯片Trainium3上市 训练AI模型成本可降50%

相比上一代,Trainium3计算性能最高提升4.4倍,能效提升4倍,内存带宽也接近翻两番。基于Trainium3构建的UltraServer系统支持互联扩展,单系统可容纳144枚芯片,并为单个应用提供多达100万枚Trainium3芯片的算力支持,规模达到上一代的10倍。

亚马逊表示,与采用图形处理单元(GPU)的系统相比,使用Trainium3训练和运行AI模型的成本可降低最多50%。

亚马逊新款AI芯片Trainium3上市 训练AI模型成本可降50%

此外,亚马逊已着手开发下一代产品Trainium4。据披露,Trainium4预计将带来6倍的FP4计算性能、3倍的FP8性能,内存带宽和容量分别提升至4倍与2倍,并支持通过NVLink Fusion和UALink实现纵向扩展。

对于与行业龙头英伟达的关系,负责Trainium项目的AWS副总裁兼首席架构师Ron Diamant明确表示:“我不认为我们会试图取代英伟达。”

亚马逊新款AI芯片Trainium3上市 训练AI模型成本可降50%

AD 麦享生活

网购比价查优惠券就用麦享生活
领打车|外卖红包|美团|抖音团购也用麦享生活
各大应用商店均可搜索安装【麦享生活APP】

文章来源【快科技】,转载请注明出处,本文链接 : https://www.bltcool.com/63765.html
上一篇
下一篇

为您推荐

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部