Hugging Face Blog·· 21 小时前精选AI 评分72
Hugging Face 发布 TorchNeuron，让 HF 模型原生运行在 AWS Trainium 上
TorchNeuron: running HF models on AWS Trainium is easier than ever
AI 导读
Hugging Face 推出 TorchNeuron，为 PyTorch 在 AWS Trainium 上提供原生后端，Transformers、Diffusers 和 Kernels 原生支持，10 月 20 日起进入公开测试，可通过 pip install torch-neuronx 安装。
推荐理由
Hugging Face 官方说明 TorchNeuron 如何让 Transformers、Diffusers、TRL 直接跑在 Trainium 上，并给出可复用的代码示例。
来源：Hugging Face Blog · huggingface.co