ai-infra-interview-305

第 234 题:模型CI/CD流水线?自动化测试、benchmark?

题目

模型CI/CD流水线?自动化测试、benchmark?


完整讲解

一、模型 CI/CD 含义

模型 CI/CD:像代码一样对 模型与训练流水线持续集成与部署CI:代码/配置变更触发 构建、测试、训练或压缩流水线CD:通过测试与 benchmark 的 模型版本 自动或审批后 部署到推理/下线。保证 可重复、可审计、质量可控

二、自动化测试与 benchmark

测试单元测试(数据加载、config、单步 forward/backward);集成测试(小规模多卡/多节点跑若干 step);回归测试(精度、loss 曲线与基线对比)。Benchmark固定配置 下跑 吞吐、延迟、显存;与 基线 对比,性能回归 则告警或阻断。触发:代码/数据/配置 PR 或 merge 触发 CI;定时新模型版本 触发 benchmark 与回归。

三、流水线编排

流水线代码 build → 镜像 → 训练(或跳过用缓存)→ 评估 → 压缩(可选)→ 入库/部署。用 Tekton、Argo、GitHub Actions 等编排;artifact(镜像、checkpoint、报告)在阶段间传递。门控:仅 通过测试与 benchmark 的版本可 进模型仓库推推理;失败则告警、不自动发布。

面试要点


记忆要点

  1. CI/CD = 训练与模型流水线自动化;测试 + benchmark。
  2. 测试:单元、集成、回归;benchmark 固定配置、与基线比。
  3. 流水线编排 + 门控;通过才入库/部署。
返回模块 返回总览