第 181 题：有害内容的识别，多模态融合的风险检测？
题目
有害内容的识别，多模态融合的风险检测？
完整讲解
一、有害内容的类型与识别
有害内容：暴力、色情、仇恨言论、自伤、虚假信息、侵权等。识别：多采用分类模型（文本/图像/视频）判定是否违规及类别，结合规则与名单（关键词、哈希、实体）做召回与兜底。
二、多模态融合
- 动机：有害信息常跨模态（图文搭配、视频含语音与画面），单模态易漏检或误判；多模态融合可综合文本、图像、音频、行为等，提升鲁棒性与准确率。
- 融合方式：（1）早期融合：多模态特征在底层拼接或对齐后进统一编码器。（2）晚期融合：各模态单独模型得到分数，再加权或学习融合。（3）跨模态注意力：文本与图像互做 attention，捕捉图文一致/矛盾（如图与文不符的虚假信息）。
- 风险检测：除二分类「是否有害」外，可输出风险等级或多标签（暴力/色情/仇恨…），供分级处置（删除、限流、人工复核）。
三、工程要点
- 多模态模型计算与延迟更高，可分级：先单模态粗筛，可疑再多模态精判；持续收集边界 case 做标注与迭代。
面试要点
- 能列举有害内容类型及识别手段（分类模型、规则、名单）。
- 能说清多模态融合的动机与方式：早/晚融合、跨模态注意力；与风险等级/多标签输出。
- 能简述分级策略与延迟权衡（粗筛→精判）。
记忆要点
- 有害内容：暴力/色情/仇恨等；识别=模型+规则+名单；多模态融合提升鲁棒性。
- 融合：早/晚融合、跨模态注意力；输出风险等级/多标签；分级处置与延迟权衡。