Zero-Shot Learning (ZSL) en Few-Shot Learning (FSL) zijn technieken binnen machine learning waarmee modellen nieuwe taken kunnen uitvoeren met weinig of zelfs geen gelabelde trainingsdata.
In tegenstelling tot traditionele benaderingen, waarbij grote hoeveelheden voorbeelden nodig zijn, benutten deze methoden vooraf opgedane kennis om te generaliseren naar onbekende situaties.
Deze aanpak is essentieel voor moderne AI-systemen die flexibel moeten omgaan met nieuwe concepten, talen of contexten zonder kostbare hertraining.

Werking

Zowel zero-shot als few-shot learning zijn gebaseerd op het principe van kennisoverdracht — een model past eerder geleerde representaties toe op nieuwe taken.

Zero-Shot Learning (ZSL)

Het model voert een taak uit zonder ooit voorbeelden te hebben gezien van de specifieke klasse of context.
In plaats daarvan gebruikt het semantische beschrijvingen, tekstuele relaties of embeddings om nieuwe categorieën te begrijpen.

• Voorbeeld: een beeldherkenningsmodel dat nooit “zebra’s” heeft gezien, kan ze toch herkennen door de semantische relatie “lijkt op een paard met strepen”.
  In taalmodellen gebeurt zero-shot learning via natuurlijke prompts (“Vertaal deze zin naar het Frans”) zonder expliciete training.

Few-Shot Learning (FSL)

Het model krijgt enkele voorbeelden (meestal 2–10) van de taak tijdens de prompt of training en leert hieruit de gewenste outputstructuur.
Dit wordt vaak toegepast bij large language models (LLM’s) zoals GPT en LLaMA, die voorbeelden in de prompt gebruiken om context af te leiden.

• Voorbeeld: een model leert de structuur van productbeschrijvingen na het zien van slechts een paar voorbeelden.

Beide methoden maken gebruik van embedding spaces, transfer learning en prompt conditioning om te generaliseren naar onbekende situaties.

Kenmerken

• Data-efficiënt: presteert goed met weinig of geen gelabelde voorbeelden.
• Generaliseerbaar: kan nieuwe taken uitvoeren buiten de trainingsdistributie.
• Flexibel: bruikbaar in dynamische omgevingen met snel veranderende data.
• Afhankelijk van foundation models: vereist vooraf getrainde representaties met brede kennis.
• Promptgestuurd (bij LLM’s): context en instructie bepalen de outputkwaliteit.

Toepassingen

Zero-shot en few-shot learning worden breed toegepast in moderne AI:

• Taalverwerking: vertaling, samenvatting of classificatie zonder specifieke hertraining.
• Beeldherkenning: identificatie van nieuwe objecten of categorieën.
• Spraakherkenning: aanpassing aan nieuwe stemmen of talen.
• Chatbots: uitvoeren van nieuwe taken op basis van tekstuele instructies.
• Medische AI: diagnose van zeldzame aandoeningen met weinig voorbeelden.
• Cybersecurity: detectie van onbekende dreigingen.

Uitdagingen

• Betrouwbaarheid: prestaties kunnen variëren zonder voldoende voorbeelden.
• Ambiguïteit: modellen kunnen verkeerde aannames maken over onbekende taken.
• Bias-overdracht: fouten of vooroordelen uit pretrained modellen blijven aanwezig.
• Evaluatie: moeilijk om prestaties objectief te meten bij onbekende klassen.
• Afhankelijkheid van contextkwaliteit: kleine variaties in prompt of voorbeelden beïnvloeden de output sterk.

Samenvatting

Zero-shot en few-shot learning maken AI flexibeler en efficiënter door modellen in staat te stellen nieuwe taken uit te voeren met minimale of geen training.
Deze technieken benutten de generalisatiekracht van foundation models en embeddings om kennis over te dragen tussen domeinen.
Ze vormen de kern van moderne generatieve AI, waar adaptiviteit en contextbegrip belangrijker zijn dan omvangrijke datasets.

Bron: Blackbirds.ai — AI & Data Consultancy