跳到正文
SiliconANGLE· Maria Deutscher·· 21 小时前AI 评分57

Amazon 推出 TorchNeuron 工具包以在 AWS Trainium 芯片上运行 PyTorch

Amazon introduces toolkit for running PyTorch workloads on AWS Trainium chips

AI 导读

Amazon推出 TorchNeuron 工具包,计划将其开源,用于在 AWS Trainium 芯片上运行 PyTorch 工作负载。该工具包支持 Trainium2 和 Trainium3,无需大量代码改动,并提供预打包的 NKI 算子。TorchNeuron 还支持 TorchTitan,已被 Cartesia AI 用于 Trainium 推理工作负载。

来源:SiliconANGLE · siliconangle.com