AWS Machine Learning Blog· Joseph Cottingham·· 4 小时前AI 评分32
别再猜 Amazon SageMaker AI 上 TTS 的自动扩缩容目标值
Stop guessing auto scaling targets for TTS on Amazon SageMaker AI
AI 导读
针对 Amazon SageMaker AI 上自托管 TTS 端点自动扩缩容目标值靠猜的问题,该文将 82M 参数的 TTS 模型 Kokoro-82M 以自定义容器部署到实时端点,用实测的单实例 SLO 内最大并发 Q_max 和一次完整扩容耗时 T_total 推导扩容/缩容阈值与冷却时间。
来源:AWS Machine Learning Blog · aws.amazon.com