AWS Machine Learning Blog 发布教程,介绍如何在 Amazon SageMaker HyperPod 上微调开源推理模型 GPT-OSS-20B,以提升其用目标语言推理的能力。教程称,该模型默认用英语思考,在 50 例多语言推理测试中仅 22% 用目标语言推理(英语 100%,法语、西班牙语、意大利语均为 0%,德语 10%)。
所有微调均使用 LoRA,并结合 SFT 与 GRPO。运行环境为 SageMaker HyperPod 集群和 Amazon EKS 编排,读者按教程操作也需要具备同样环境。教程另提到,GSM8K 任务上模型已达峰值准确率,这属于内部实验,公开仓库尚未发布。
AI 根据报道生成 · 1 小时前更新