第 264 题：推荐算法的伦理审查，公平性评估的流程设计。
题目
推荐算法的伦理审查，公平性评估的流程设计。
完整讲解
一、推荐算法的伦理风险
- 公平性：不同群体（性别、地域、年龄等）在曝光、满意度、机会上的差异；算法可能放大历史偏见。伦理审查即在设计、上线与迭代中系统评估与约束这些风险。
二、公平性评估
- 维度：按敏感属性（或代理变量）分层，看各组的曝光率、点击率、转化率、满意度等是否合理；可定义公平性指标（如 demographic parity、equalized odds、基尼系数）。
- 数据：敏感属性可能不可用或受限，需合规获取或用代理；评估时注意样本量与统计显著性。
- 权衡：公平与主指标可能冲突（如绝对公平可能牺牲整体效率）；需业务定义「可接受」的公平边界与优先级。
三、伦理审查流程设计
- 设计阶段：需求与模型设计时纳入公平性与伦理 checklist；明确敏感维度与约束。
- 开发阶段：训练数据与特征审查（是否引入歧视性变量）；离线公平性评估与消融。
- 上线与迭代：上线前公平性报告与审批；上线后持续监控分层指标与用户反馈；建立投诉与复议通道。
- 组织：明确伦理审查的负责人（如算法、法务、产品）；可设伦理委员会或定期评审会；文档化标准与决策依据。
面试要点
- 能说清推荐算法伦理审查的必要性，以及公平性评估的维度与指标。
- 能说明伦理审查流程：设计阶段 checklist、开发阶段数据与评估、上线审批与持续监控、组织与文档化。
记忆要点
- 伦理审查：公平性等伦理风险的系统评估与约束；公平性按群体分层评估曝光与满意度。
- 流程：设计 checklist→开发数据与评估→上线审批与监控→组织与文档；明确公平与主指标权衡。