AWS Machine Learning Blog 发布教程，针对 Amazon SageMaker AI 上自托管 TTS 端点自动扩缩容目标值靠猜的问题，给出基于实测的推导方法：将 82M 参数的 TTS 模型 Kokoro-82M 以自定义容器部署到实时端点，用单实例 SLO 内最大并发 Q_max 和一次完整扩容耗时 T_total 推导扩容/缩容阈值与冷却时间。
该容器支持响应流式与双向流式两种传输方式。文中提示示例容器固定了存在已知漏洞（PYSEC-2026-2286，torch 2.10.0 已修复）的旧版 PyTorch，任何非概念验证用途前应检查并升级；运行扩容测量前需有 ml.g5.xlarge 服务配额，且比基线多出至少一个空闲槽位。
AI 根据报道生成 · 2 小时前更新