零样本学习与少样本学习是怎样工作的？一文看懂

在AI蓬勃发展的今天，机器学习正一步步突破对数据的依赖。零样本学习（Zero-shot Learning）和少样本学习（Few-shot Learning）是两项新兴的前沿技术：它们让AI有了点人类“举一反三”的意思，在数据稀缺的场景下也能快速学新知识、适应新任务。这两种学习方式不光把AI的应用边界往外推，还推动人工智能从数据驱动向知识驱动转变，为解决现实世界的复杂问题提供了新思路。

先搞清楚核心概念

在人工智能（AI）的发展历程里，怎么让机器像人一样快速学习、适应新环境，一直是研究者追求的核心目标。传统机器学习模型——尤其是深度学习——在很多任务上表现超过人类，但这一切都建立在海量标注数据之上。这种对数据的“贪婪”需求，把AI在数据稀缺、获取成本高的场景里的应用卡得死死的。为了打破这个瓶颈，零样本学习（Zero-shot Learning, ZSL）和少样本学习（Few-shot Learning, FSL）应运而生：让AI模型摆脱对大规模标注数据的依赖，仅靠极少量甚至零个样本，就能快速上手新任务、识别新类别。这两种学习方式赋予了AI类似人类的“举一反三”能力，让它应对复杂多变的现实世界时更灵活、更高效。

零样本学习（Zero-shot Learning）

• 基本定义

零样本学习是机器学习里一项很有挑战性的任务：模型没见过目标类别的任何样本，照样要完成识别和分类。打个比方，一个孩子从来没见过斑马，但只要告诉他“斑马是一种外形像马、身上有黑白条纹的动物”，下次在动物园看到斑马，他就能准确认出来。零样本学习的核心思想正是在模仿这种人类的学习方式——引入额外的辅助信息（如文本描述、属性标签），让模型能够“理解”新类别的概念，从而识别新类别。

• 技术实现机制

技术上讲，零样本学习是迁移学习的一个特例。传统监督学习里，训练集和测试集共享同一套类别标签空间；零样本学习里，两者的类别标签空间完全不相交——模型在训练阶段压根没见过测试阶段要识别的类别。要做到这一点，零样本学习模型借助辅助信息（auxiliary information）在已知类别和未知类别之间搭桥，这些辅助信息通常以语义嵌入（semantic embeddings）的形式存在。

举个例子：用词向量模型（如Word2Vec）把类别名称（如“马”、“老虎”、“熊猫”）映射到一个高维向量空间中，向量能捕捉类别之间的语义关系。要识别一个新类别（如“斑马”）时，模型拿“斑马”的文本描述（如“像马”、“有条纹”、“黑白相间”）生成语义嵌入，再把它与图像特征进行匹配，分类就完成了。

少样本学习（Few-shot Learning）

• 基本定义

如果说零样本学习是“无师自通”的专家，少样本学习就是“一点就通”的聪明学生：它让AI模型仅凭极少量标注样本（通常是1到5个），就能快速掌握新任务或识别新类别。这种学法和人类的学习过程非常像——人学新知识往往不需要海量例子，看几个典型案例就能抓住核心规律，再用到新情境里。

比如小孩只需要看过几张不同品种的狗的照片，下次见到一只从没见过的狗，也能准确认出那是狗。少样本学习的目标，就是让AI具备这种快速学习和泛化的能力。

• 技术实现机制

少样本学习是机器学习的一个分支，专治数据稀缺场景下的模型泛化问题。它的设定是：模型手里只有少量标注样本（即支持集，support set），就要对新的、没见过的样本（即查询集，query set）做分类或完成其他任务。拿一个5-way 1-shot的分类任务来说，模型要区分5个全新类别，每个类别只有1个标注样本——它就得靠这5个样本学会区分5个类别的特征，把查询集里的样本分对。这里的难点在于：怎么从极少量样本里提取有效信息，同时避免过拟合（也就是只记住了这几个样本，没学到能泛化的规律）。

零样本学习和少样本学习差在哪

两者最核心的区别，是识别新类别时要不要给示例。零样本学习完全不需要新类别的标注样本，全靠辅助信息（如文本描述）来推断；少样本学习则要求提供极少量（通常是1到5个）新类别的标注样本，模型从样本里学新类别的特征，再做泛化。

对比项	零样本学习 (Zero-shot Learning)	少样本学习 (Few-shot Learning)
需要的数据	完全不需要新类别的标注样本	要提供1-5个新类别的标注样本
怎么学	靠辅助信息（如文本描述）进行推断	靠少量示例学习模式
先验知识的作用	严重依赖预先学习到的语义关系和知识	会用先验知识，但跟着示例做调整
适应性表现	能快速泛化到全新的、从未见过的任务	快速适应特定新任务，通常精度更高
举个例子	按“包含可疑链接的邮件”这个定义来识别垃圾邮件	看过几个标注的对话后，学会识别新的客户意图

和传统监督学习比一比

传统监督学习是机器学习里最成熟、用得最多的方法，帮无数任务取得了巨大成功，但它对数据的依赖也成了最大的瓶颈。

• 传统监督学习：离不了大量标注数据

传统监督学习的核心思路，是拿大量带标签的训练数据，学一个从输入到输出的映射函数。比如在图像分类任务里，模型要看成千上万张标了“猫”的图，再看成千上万张标了“狗”的图，才能学会区分猫狗——这个过程要花大量时间和人力做数据标注，成本非常高昂。碰上一些罕见的类别（比如某种稀有疾病），标注样本根本凑不够数。

• 零样本与少样本学习：大幅压低数据量门槛

零样本学习和少样本学习的出现，正好治了传统监督学习对数据量过度依赖的毛病：通过引入先验知识、辅助信息或元学习等机制，把标注数据需求压到极低。

学习路线	要多少标注数据	核心思路	优点	缺点
传统监督学习	海量（数千到数百万）	靠数据学出映射函数	精度高，技术成熟可靠	标注成本高，罕见类别处理不了
少样本学习	很少（1-5个）	“学习如何学习”，快速接住新任务	对数据要求低，适应能力强	容易过拟合，对泛化能力要求高
零样本学习	一个都不用	靠辅助信息做推理	完全不用标注数据，灵活性最高	精度相对偏低，效果取决于辅助信息质量

具体怎么实现

零样本学习和少样本学习目标相近，实现路径却完全是两回事。

零样本学习更像一位理论家，靠“阅读”和“理解”掌握新知识；

少样本学习更像一位实践家，靠“观察”和“模仿”快速上手。

零样本学习怎么实现

零样本学习的要害，是让模型在没见过任何样本的情况下理解一个新类别的“概念”。研究者们为此提出了不少方法，最主要的两条路是语义嵌入和属性映射。

• 语义嵌入：把类别描述翻译成AI能懂的形式

语义嵌入（Semantic Embedding）是零样本学习用得最多的一项技术。基本想法是把类别名称或文本描述映射到一个高维向量空间，这个空间被称为“语义空间”。在这个空间里，语义上相近的类别，对应的向量距离也更近——“猫”和“狗”的向量距离，就比“猫”和“汽车”的更近。通过这种方式，模型就能用数学的办法“理解”类别之间的语义关系。

做语义嵌入的方法很多，最常见的是借助BERT或GPT系列这类预训练语言模型。这些模型在海量文本数据上训练过，生成的词向量富含语义信息。比如把“斑马”的文本描述“一种外形像马、身上有黑白条纹的动物”输入BERT模型，得到一个代表“斑马”概念的向量，再拿这个向量与图像特征做匹配，就能识别出斑马。

• 属性映射：拿已知属性推未知类别

属性映射（Attribute Mapping）是另一条实现零样本学习的重要路子。核心想法是用一组属性（attributes）来描述每个类别。属性是跨类别共享的：就拿动物分类来说，可以定义“有条纹”、“有翅膀”、“会游泳”这些属性，每个类别对应一个属性向量，比如“老虎”的属性向量可能是[有条纹=是, 有翅膀=否, 会游泳=否]。

训练阶段，模型学的是怎么从图像特征里预测这些属性；测试阶段遇到新类别（如“斑马”）时，只要给出属性描述（如“有条纹=是, 有翅膀=否, 会游泳=否”），模型就能按属性把它与已知类别对上号，识别出“斑马”。这种做法的好处，是把复杂的类别识别问题拆成了更简单的属性识别问题，模型的泛化能力也跟着提高。

少样本学习怎么实现

和零样本学习不同，少样本学习的实现更关心模型怎么从极少量样本里快速学习和泛化。研究者们主要采用两种策略：迁移学习和元学习。

• 迁移学习

迁移学习（Transfer Learning）是少样本学习的基础，核心思路是把在一个大规模数据集（如ImageNet）上预训练好的模型——通常是深度神经网络——直接迁移到新任务上用。预训练好的模型就像一个“巨人”，早就学到了丰富、通用的特征提取能力，比如识别图像里的边缘、纹理、颜色这些基本特征。碰上数据很少的新任务，不用从头训练模型，在预训练模型的基础上做微调（fine-tuning）就行了。

• 元学习

元学习（Meta-learning），号称“学习如何学习”（learning to learn），是少样本学习的核心。它的目标是让模型掌握一套通用的学习策略，能快速适应各种不同的新任务。元学习的训练是在大量不同的“任务”上进行的，每个任务都是一道独立的少样本难题，比如一个5-way 1-shot的分类任务。模型在这些任务上反复练，学会怎么从一个支持集中快速提取有效信息，再把它应用到查询集上。

• 支持集与查询集

在少样本学习中，数据被组织成支持集（support set）和查询集（query set）两种形式。支持集就是给模型看的少量标注样本，模型要通过学习样本掌握新类别的规律；查询集则是模型需要预测的未标注样本。比如一个5-way 1-shot任务，支持集包含5个类别、每个类别1个样本共5个样本；查询集里是多个属于这5个类别的样本，模型要把它们全部正确分类。

核心原理是什么

零样本和少样本学习能让AI具备“举一反三”的本事，背后各有深刻的原理。但核心都是一个：让模型把已有的知识用起来，去理解和适应新的、未知的情况。

零样本学习靠什么原理

零样本学习的原理，可以概括为“知识迁移”加“语义空间”的组合：把不同模态的信息（如图像和文本）映射到一个共享的语义空间中，在已知类别和未知类别之间架起联系。

• 知识迁移：把已知类别学到的本事用到未知类别上

知识迁移（Knowledge Transfer）是零样本学习的核心原理之一，基本思想是把在已知类别上学到的知识，搬到未知类别上去。这里的“知识”，可以是模型的特征提取能力，也可以是类别之间的语义关系。比如模型在识别“马”、“老虎”、“熊猫”这些已知类别时，学会了怎么提取动物的外形、颜色、纹理等特征；轮到识别“斑马”这个未知类别时，它就拿现成的特征提取能力分析斑马的图像，再与“斑马”的文本描述做匹配。

• 语义空间：在空间里连通已知与未知

语义空间（Semantic Space）是零样本学习实现知识迁移的关键。它是一个高维向量空间，不同模态的信息（如图像特征和文本描述）都被映射到同一个空间里。这样模型就能在同一个空间里直接比较、匹配图像和文本，把已知类别（通过文本描述）和未知类别（通过图像特征）之间的联系建立起来，完成对未知类别的识别。

少样本学习靠什么原理

少样本学习的原理，可以概括为“快速适应”加“相似性度量”：让模型练出快速适应新任务的能力，再配上一套有效的样本相似性度量方法，从极少量样本里学出东西。

• 快速适应：少量样本就能快速调整模型

快速适应（Fast Adaptation）是少样本学习的核心目标。在每个任务中，模型都要从少量样本里快速学习，完成分类或其他任务。见得任务多了，模型就练出一套通用的学习策略，能快速适应各种不同的新任务。这种“学习如何学习”的能力，正是少样本学习能够快速适应的关键。

• 相似性度量：学会算样本之间有多像

相似性度量（Similarity Metric）是少样本学习做分类的关键。模型要学的是一种度量样本之间相似性的方法。原型网络（Prototypical Networks）就是典型的基于相似性度量的少样本学习方法，它的思路是给每个类别算一个“原型”（prototype）——即该类别所有支持集样本在特征空间中的中心点。查询集里的每个样本，模型都计算它与各个类别原型的距离，把它归到距离最近的那个原型所属的类别。

能用在哪里

零样本和少样本学习的出现，把AI的应用边界撑大了不少：传统方法够不着的领域，AI现在也能进得去，给解决现实世界的各种难题提供了新思路。从计算机视觉到自然语言处理，再到医疗、金融这些专业领域，零样本和少样本学习都展现出很大的应用潜力。

计算机视觉

• 图像分类：把罕见物体认出来

图像分类是计算机视觉里最基础的任务之一。传统的图像分类，是判断图像里的物体属于哪个预定义的类别。可现实世界里物体的类别是无穷的，不可能给每个类别都收集大量标注数据。零样本和少样本学习正好给这个问题提供了有效的解法。比如在野生动物保护领域，研究人员借助零样本学习，输入“一种有长鼻子、体型巨大的灰色动物”这样的文本描述，就能从大量野外相机照片里自动识别出大象——哪怕训练集里根本没有大象的图片。

少样本学习也一样：只需要提供几张新发现物种的照片，模型就能学会识别这个物种，这对生物多样性研究和保护很有意义。

• 目标检测：检出训练集里没有的物体

目标检测比图像分类更复杂：不仅要认出图像里的物体，还要确定它的位置（通常用边界框表示）。零样本和少样本学习在这个任务上同样大显身手，专门应对新类别物体的检测难题。比如自动驾驶场景里，车辆总会碰上训练数据中从未出现过的障碍物——掉落的货物、横穿马路的动物等等。借助零样本学习，系统靠“一个方形的、金属质感的物体”这样的描述，就能检测出道路上训练集里没包含的新障碍物。

少样本学习则能帮系统快速学会识别新类型的车辆或交通标志，把自动驾驶系统的安全性和鲁棒性提上去。

• 图像生成：造出全新的图像

零样本和少样本学习在图像生成领域的潜力也不小。拿零样本学习来说，模型可以根据一段文字描述（如“一只戴着宇航员头盔的猫在月球上行走”）生成一张全新的、从未见过的图像。这就是所谓的文本到图像生成（Text-to-Image Generation），在艺术创作、游戏设计、广告等领域都有很广的应用前景。

少样本学习则能用风格迁移这类任务：只要提供几张某个画家的作品，模型就能学会他的绘画风格，再应用到其他图像上，生成具有该风格的新作品。

自然语言处理

• 文本分类：快速给新主题归类

文本分类任务里，零样本和少样本学习能帮模型快速适应新的主题或领域。比如新闻分类中出现全新的类别（如“元宇宙”）时，零样本学习模型靠对该类别的描述（如“关于虚拟现实、区块链和数字资产的新闻”）就能识别相关的新闻文章，模型都不用重新训练。

情感分析也是同理：少样本学习帮模型快速适应新产品或新服务的评论，只要给少量标注好的评论样本，模型就能学会判断用户对新产品的情感倾向。

• 问答系统：没见过的问题也能答

问答系统是NLP领域的重要应用，零样本和少样本学习让它能回答压根没见过的问题。比如通过零样本学习，模型根据对某个问题的描述（如“谁是美国第一任总统？”）就能生成答案，哪怕这个问题不在训练数据里。

少样本学习则能让模型快速切入新的问答领域。比如医疗问答场景，只要提供少量关于某种疾病的问答对，模型就能学会回答该疾病的常见问题。

• 机器翻译：翻没配对过的语言

机器翻译是NLP领域最具挑战性的任务之一，零样本和少样本学习在其中发挥着重要作用。比如零样本机器翻译，能实现两种从未在平行语料库中出现过的语言之间的翻译：借助这两种语言各自与其他语言的翻译数据，加上语言之间的语义相似性，模型就能完成零样本翻译。这对保护濒危语言、促进跨文化交流意义重大。

其他领域的应用

• 医疗诊断：帮忙诊断罕见病

医疗领域里，罕见病的病例数据非常稀少，传统监督学习很难训出有效的诊断模型。零样本和少样本学习给这个问题提供了新思路。比如通过零样本学习，模型按对某种罕见疾病的描述（如“一种遗传性疾病，主要表现为皮肤白斑、毛发变白和视力问题”）就能识别相关的医学影像。

少样本学习则靠少量罕见病病例，帮模型学到疾病特征，给医生诊断搭把手。

• 金融风控：认出新型欺诈套路

金融领域里欺诈手段不断翻新，传统风控模型应付不了新型的欺诈模式。零样本和少样本学习能帮金融机构快速识别新式欺诈行为。比如通过零样本学习，模型按对新型欺诈模式的描述（如“利用虚假身份信息申请贷款”）就能识别相关的交易记录。

少样本学习则通过少量已知的欺诈案例，帮模型学会新型欺诈的特征，把风控系统的准确性和时效性提上去。

• 自动驾驶：应付新的交通场景

自动驾驶是AI技术的重要落地场景。在复杂的交通环境里，车辆总会遇到没见过的情况——新的交通标志、新的路况等等。零样本和少样本学习能帮自动驾驶系统快速适应新场景。比如通过零样本学习，系统按对新交通标志的描述（如“一个蓝色的、圆形的标志，中间有一个白色的箭头”）就能认出这个标志。

少样本学习则靠少量新场景数据，帮系统学会应对这些情况，让自动驾驶更安全、更可靠。

价值与优势在哪

零样本和少样本学习的出现，给AI发展带来了革命性的变化：不光解了传统机器学习方法在数据稀缺场景下的燃眉之急，更重要的是让AI的学习和认知能力离人类更近了一步，价值不小。

把数据依赖降下来

• 省下数据标注的成本

数据标注是出了名的耗时、耗力、费钱。在医疗、金融、法律这些领域，标注还得领域专家亲自参与，成本更是下不来。零样本学习干脆完全摆脱了对新类别样本的依赖，把数据标注成本直接降到零；少样本学习则把所需样本量从成千上万砍到个位数，标注成本大幅缩水。这样一来，AI技术能落地到更多资源有限的场景，算是推动了AI的普惠化。

• 数据稀缺不再是死结

很多现实场景里，想拿到大规模标注数据几乎不可能。比如医疗领域，罕见病的病例数据本来就稀少；工业制造里，新产品初期的缺陷样本几乎不存在。零样本和少样本学习正好给这类问题提供了有效的解决方案。

把学习效率提上来

• 模型部署速度加快

传统的监督学习模型要部署到新任务上，得走一遍数据收集、标注、模型训练、调优的漫长流程。零样本和少样本学习模型可以把这些环节跳过或简化：零样本模型直接拿对新类别的描述做推理，完全不用训练；少样本模型靠少量样本就能快速适应新任务，部署时间大大缩短。有了这种快速部署的能力，AI系统面对动态变化的环境就更从容了。

• 新任务说来就来

现实世界的任务一直在变，AI系统必须能快速适应新任务，零样本和少样本学习正是为此而设计的。它们让AI模型像人一样，靠极少的示例甚至光凭一段描述，就能快速掌握新技能。对需要持续学习和进化的AI系统来说——个性化推荐、智能客服、在线教育都是例子——这种快速适应能力至关重要。

绕不开的挑战与局限

准确性还不够硬

• 零样本学习的准确性还得练

零样本学习模型全靠辅助信息做推理，准确性很大程度上取决于辅助信息的质量和模型的语义理解能力。现实世界里，辅助信息往往模糊、不完整，甚至带着偏见，模型在把视觉特征和语义特征做匹配时容易出现偏差。所以零样本学习模型的准确性通常低于传统监督学习模型，复杂的视觉任务里尤其明显。怎么把零样本学习的准确性提到能媲美甚至超越监督学习，是个亟待解决的难题。

• 过拟合是少样本学习的老毛病

怎么避免过拟合，是少样本学习的核心难题之一。模型只接触极少量样本，很容易把这些样本的特定特征“记住”，却没学到有泛化能力的规律——碰到与训练样本略有不同的新样本，就可能做出错误判断，这就是过拟合。虽然元学习等技术多少缓解了这个问题，但过拟合仍是卡在少样本学习性能上的主要瓶颈。

数据质量不好控制

• 样本太少容易带偏

少样本学习里样本数量极少，这几张样本未必能代表整个类别的真实分布。比如识别“狗”这个类别，如果提供的几张图全是白色的、毛茸茸的狗，模型就可能认定狗都该是白色毛茸茸的，把其他颜色的狗分错。样本偏差会严重影响模型的泛化能力。

• 数据噪声会明显拖累模型

零样本学习的辅助信息要么靠人工标注、要么从网络上自动获取，里面混杂着大量噪声和错误。比如某个类别的描述可能不准确，或者夹带了与该类别无关的信息。这些噪声会误导模型，让它学到错误的知识，模型性能随之下滑。

泛化能力有天花板

• 类别越陌生，泛化越吃力

零样本和少样本学习都想泛化到从没见过的类别，但实际应用中模型的泛化能力往往有限。比如零样本学习模型通常只能泛化到与已知类别语义相近的未知类别，碰上与已知类别差异很大的，性能会急剧下滑；少样本学习模型也基本只能泛化到与训练样本相似的样本，差异一大，性能同样受影响。

• 跨领域迁移还不顺手

目前大多数零样本和少样本学习模型都是在特定领域（如图像分类）里研究和评估的。现实世界的AI系统需要跨领域迁移的能力：一个在图像领域表现出色的零样本学习模型，并不能直接搬到自然语言处理领域去用。怎么把模型在一个领域学到的知识用到其他领域，还是个很有挑战性的研究方向。

未来怎么走

随着大模型和多模态技术不断进步，AI会更好地理解和处理复杂信息，零样本和少样本学习的能力也会更上一层。开放世界场景中的应用，会推着AI持续学习、不断适应，更从容地应对现实世界的挑战。再加上扩散模型、提示工程这些新兴技术的加持，零样本和少样本学习还会冒出更多创新和突破。可以预见，未来的AI会更智能、更高效、更普适，能更好地服务人类社会，给各种复杂问题的解决提供更强的支持。