AWS Machine Learning Blog· Joseph Cottingham·· 3 小时前AI 评分45
在 Amazon SageMaker AI 上为 TTS 服务停止猜测自动扩缩目标
Stop guessing auto scaling targets for TTS on Amazon SageMaker AI
AI 导读
本文部署了 8200 万参数的 Kokoro-82M TTS 模型至 Amazon SageMaker AI 实时端点，并基于实测的并发上限 Q_max 和扩缩总时间 T_total 来精确设定自动扩缩策略。
来源：AWS Machine Learning Blog · aws.amazon.com