在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 以实现多语言推理

GPT-OSS-20B 经过微调后，在 50 个示例的多语言推理测试中，其使用目标语言进行推理的正确率从基础模型的 22% 大幅提升。实验表明，监督微调（SFT）是主要手段，而组相对策略优化（GRPO）在模型已有一定能力时能提供额外优化。该微调工作使用了基于 LoRA 的参数高效方法，并在 Amazon SageMaker HyperPod 集群上运行。