AWS 发布了一个在 EKS 上使用 Ray Train Deep Learning Container(DLC)做分布式训练的示例。该示例用公开镜像 public.ecr.aws/deep-learning-containers/ray,在 EKS 上通过 EFA 以 PyTorch FSDP 微调 Qwen2.5-1.5B,跨两台 g6.12xlarge 实例的八块 NVIDIA L4 GPU。镜像公开,节点拉取无需凭证,过程中不构建或推送镜像。
运行前需准备 AWS CLI v2(登录目标账户)、eksctl、kubectl、Helm 和 GNU gettext 的 envsubst,并具备 G 系列按需实例 96 vCPU 配额,且所在区域至少一个可用区提供该实例。GPU 实例运行期间成本约每小时 9.50 美元,涵盖两台实例、EKS 控制平面和 NAT 网关。
AI 根据报道生成 · 52 分钟前更新