第 267 题：推荐系统的成本控制，算力预算的ROI评估。
题目
推荐系统的成本控制，算力预算的ROI评估。
完整讲解
一、推荐系统的成本构成
- 算力：训练（GPU/TPU）、推理（QPS×单次成本）、特征与索引构建；大模型与实时推理成本尤其高。
- 存储与带宽：特征库、模型、日志与样本；多副本与跨区同步。
- 人力与运维：算法、工程、数据、SRE；迭代与故障成本。
- 成本控制即在不明显牺牲效果的前提下，优化上述各项的ROI。
二、算力预算与 ROI 评估
- 预算：给定总算力或预算上限，在训练、推理、实验之间分配；可设「推理预算」与「训练预算」的占比或绝对值。
- ROI 定义：单位算力带来的指标提升或收入提升；可近似为 (\Delta \text{指标} / \Delta \text{成本})，或 LTV 增量与算力成本的比值。
- 评估方式：新模型/特征上线时，同时看指标增益与成本增量；做「成本敏感」的 AB（如同效果下降本、同成本提效）；长期看算力弹性与扩容节奏。
- 优化手段：模型压缩（蒸馏、量化、剪枝）、推理优化（批处理、缓存、降频）、样本与特征裁剪、多阶段架构（粗排省算力）；按 ROI 排序投入。
面试要点
- 能说清推荐系统成本的主要构成（算力、存储、人力）及算力预算的分配思路。
- 能说明 ROI 的含义与评估方式（指标增益 vs 成本）、以及常见降本手段。
记忆要点
- 成本：算力（训练+推理）、存储与带宽、人力运维；控制=预算分配+ROI 评估。
- ROI：单位成本带来的指标/收入提升；优化=压缩、推理优化、样本裁剪、多阶段架构。