第 225 题：LLM的幻觉问题，推荐场景的事实性约束？
题目
LLM的幻觉问题，推荐场景的事实性约束？
完整讲解
一、LLM 幻觉在推荐中的表现
- 事实性错误：推荐不存在的 item、错误属性、错误关系（如把未合作艺人说成合作）。
- 过度泛化：根据模糊语义「捏造」符合描述但实际不存在的物品或评分，影响信任与转化。
二、推荐场景的事实性约束
- 输入约束：只把真实存在且可推荐的 item 列表/知识库片段注入上下文，让 LLM 仅在给定集合内做选择或排序，避免凭空生成 ID/名称。
- 输出约束：Constrained decoding 或后处理校验，保证输出 ID 均来自候选集；对属性、数值做规则校验或与知识库比对。
- 检索增强：用 RAG 提供当前 query 下的权威片段，模型以「检索结果为主、生成为辅」，减少自由发挥。
- 评估与监控：人工抽检 + 自动指标（如生成 ID 的命中率、属性一致性），持续发现幻觉并迭代 Prompt/数据。
三、与安全、合规的结合
- 拒绝生成违禁、过期、下架内容，可在 Prompt 或系统层做黑名单与策略校验。
面试要点
- 能说清推荐场景下幻觉的表现（假 item、假属性）及危害。
- 能列举事实性约束：输入限定候选、输出校验、RAG、constrained decoding，以及评估与迭代方式。
记忆要点
- 幻觉：推荐不存在的 item、错误属性；约束手段：限定候选输入、输出校验、RAG、constrained decoding。
- 评估：ID 命中率、属性一致性、人工抽检；与安全/下架策略结合。