什么是判别式模型（Discriminative Model） – AI百科知识

判别式模型是机器学习里很关键的一类模型，分类和回归任务都靠它。它要学的核心是输入变量 x 到输出变量 y 的映射关系，也就是条件概率分布 P(y|x)。跟生成式模型的区别就在这里：它不去管 x 和 y 的联合分布 P(x,y)，直接对条件概率 P(y|x) 下手。

判别式模型是什么

判别式模型（Discriminative Model）是机器学习里的一类模型，处理的是未知数据 y 和已知数据 x 之间的关系。做法是建一个条件概率分布 P(y|x)，再拿它去预测 y，x 和 y 一起是怎么被“生成”出来的，它不操心。

判别式模型是怎么工作的

判别式模型的着力点，是学会输入数据 x 和输出数据 y 之间的映射，也就是条件概率 P(y|x)。它不关心数据是怎么生成的，只关心一件事：给定手里这份已知输入，怎么把输出预测准。

先说直接建模：它对着条件概率 P(y|x) 直接建模，学的是“拿到输入特征 x，怎么预测输出标签 y”，所以在分类和回归任务里做起来既直接又高效，模型压根不用绕道数据的生成过程。参数学习方面，训练时靠优化算法（比如梯度下降）不断调整模型参数，让训练数据上的条件概率 P(y|x) 最大化，这套办法让模型能比较精准地咬住输入与输出之间的关系。另外，判别式模型属于有监督学习模型，得喂大量标注数据；无监督学习任务它做不了，因为学习映射关系必须有明确的输入输出配对。跟生成式模型比，判别式模型能达到更低的渐近误差——道理也简单，它学的就是输入到输出的直接关系，而不是数据怎么生成的。再加上设计上足够灵活，各种复杂的数据分布和决策边界都装得下。

判别式模型都用在哪

判别式模型能落的场景不少，常见的有下面这些：

• 图像分类：图像处理这块，卷积神经网络（CNN）这类判别式模型差不多是图像分类任务的标配。模型学的是从图像像素值到类别标签的映射，识别准确率能做得很高。
• 自然语言处理：在 NLP 里，逻辑回归、支持向量机（SVM）这样的判别式模型常被拿去跑文本分类、情感分析和命名实体识别。
• 语音识别：语音识别系统里，它负责把语音信号转成文本——学的是语音特征和对应文本标签之间的关系，从而完成从声音到文字的映射。
• 生物信息学：基因表达数据的分析会用到它，帮研究人员搞清楚基因怎么影响生物体的特定性状。摸清基因表达数据和表型之间的关系后，模型还能预测未知样本的表型。
• 医疗诊断：把患者的医疗记录和症状交给模型分析，它能预测疾病到底存不存在。
• 金融风险评估：金融行业拿它评估贷款申请人的信用风险。看完申请人的财务历史和信用记录，模型给出违约概率，金融机构做贷款决策时心里就更有数。

判别式模型的难处

• 模型复杂性与过拟合： 想吃透输入数据和输出标签之间的复杂关系，模型就得有足够的复杂度。可一旦复杂过头，过拟合就来了——训练数据上表现漂亮，换到没见过的数据就露馅。
• 优化难度： 训练判别式模型，尤其是深度学习模型，优化上的麻烦不少：局部最小值、梯度消失或者梯度爆炸。这些都会拖累训练效果和最终性能。
• 计算资源需求： 高性能的判别式模型，比如深度学习模型，算力开销很大，得配上高性能 GPU、够大的内存和存储空间。资源一紧张，模型的复杂度和能喂的训练数据规模就被卡住了。
• 大量标注数据： 它是有监督学习模型，训练离不开大批标注数据，而这些数据标起来既费钱又耗时。
• 数据质量： 数据质量直接决定模型性能。噪声、标错的标签、不平衡的类别分布，任何一条都可能把性能拉下来。
• 数据多样性： 想让模型泛化得好，训练数据就得足够多样，不同场景、不同背景、不同变化条件最好都覆盖到。
• 泛化与过拟合： 泛化能力说的就是模型在新数据上预测得准不准。过拟合是它的头号对手——过拟合的模型在训练数据上什么都对，到了新的、没见过的数据上就不行了。
• 对抗性攻击： 判别式模型对对抗性攻击比较敏感。只要在输入数据里加一点几乎察觉不到的微小扰动，就足以骗过模型、让它做出错误预测。

判别式模型往后怎么走

判别式模型往后的空间挺大，但要翻的坎也不少。深度学习技术一直在推进，它会跟着变得更强，能接住更复杂的问题。大数据和云计算把算力与存储的底座垫得更厚，处理更大规模的数据不再是瓶颈。再往后，边缘计算和智能硬件继续进步，模型就能挪到边缘设备上做实时处理，响应更快、延迟更低。