ai-infra-interview-305

第 231 题：训练平台的SLA定义？job completion time保证？

题目

训练平台的SLA定义？job completion time保证？

---

完整讲解

一、SLA 定义

SLA（服务等级协议）：对训练任务可约定 job completion time（从提交到完成的时间上限）、排队时间上限、可用率（如 99%）等。定义方式：按 队列或用户 设「P95 完成时间 ≤ T」「排队不超过 Q 分钟」；或「关键 job 带 SLA 标签，未满足则告警或补偿」。

二、Job completion time 保证

含义：在 资源充足、无故障 前提下，预计 或 承诺 某 job 在 T 内完成（含排队 + 运行）。实现：（1）预估：用 cost model 预测运行时长；排队 由调度策略与容量保证（如预留、优先级）控制。（2）预留与优先级：SLA job 高优、或 预留资源 减少排队；抢占 低优任务腾资源。（3）监控与告警：实际 排队+运行 超 T 时告警、或触发 扩容/加资源。（4）弹性：若运行超预期，可 自动加卡（弹性训练）或 checkpoint 后重提更大规模，尽量在 T 内完成。

三、与容量、公平的权衡

保证 completion time 常需 过量供给 或 高优抢占，与 公平共享、成本 冲突。实践上多对 少量关键 job 做 SLA、其余按 best-effort；或 SLA 与队列 cap 结合，避免 SLA 占满集群。

面试要点

• SLA 可定义：完成时间上限、排队上限、可用率等；按队列或 job 标签。
• Job completion 保证：cost model 预估 + 排队控制；预留、优先级、抢占；超时告警或弹性。
• 与容量、公平权衡；多对关键 job 做 SLA、cap 控制。

---

记忆要点

1. SLA = 完成时间/排队/可用率等约定。
2. 保证：预估+预留+优先级；监控与弹性。
3. 与公平、成本权衡；关键 job + cap。

返回模块

返回总览