SLM vs LLM draait om scope. Een small language model (SLM) is een compact model, doorgaans onder de tien miljard parameters, dat één specifieke taak goed uitvoert op bescheiden hardware. Een large language model (LLM) is een veel groter model dat open redeneren, schrijven en coderen over veel domeinen aankan, maar dan wel tegen hogere kosten per aanroep en met tragere responstijden.
Wat is een small language model
Een SLM is een taalmodel dat klein genoeg is om te draaien op een enkele GPU, een laptop of zelfs een telefoon. Gangbare groottes lopen van een paar honderd miljoen tot een paar miljard parameters. Doordat het model klein is, heeft het minder kennis van de wereld, maar het kan worden gefinetuned op je eigen data om een afgebakende taak uit te voeren, zoals het classificeren van supporttickets, het extraheren van velden uit facturen of het automatisch aanvullen van domeinspecifieke tekst.
Wat is een large language model
Een LLM is een model op frontier-schaal met tientallen of honderden miljarden parameters, doorgaans beschikbaar via een API. Het verwerkt instructies waarvoor het nooit specifiek is afgestemd, lange documenten, redeneren in meerdere stappen en codegeneratie. Die breedte betaal je in prijs per token, responstijd en afhankelijkheid van een aanbieder.
Hoe verschillen ze in de praktijk
| SLM | LLM | |
|---|---|---|
| Typische taak | Één specifieke, herhaalbare taak | Open redeneren, schrijven, coderen |
| Kosten per aanroep | Laag, vaak dicht bij de rekenkracht die je al hebt | Hoger, gefactureerd per token |
| Latency | Snel, kan naast de applicatie draaien | Langzamer, netwerkroundtrip plus generatie |
| Privacy | Kan draaien binnen je eigen infrastructuur | Data gaat naar een provider, tenzij je zelf host |
| Nauwkeurigheid op onbekende taken | Zwak buiten het trainingsdomein | Sterk over veel verschillende taken |
| Onderhoud | Jij beheert tuning, evals en hosting | Provider beheert het model, jij beheert prompts en evals |
Wanneer is een SLM zinvol
Een SLM past als de taak smal is, het volume hoog is en het antwoord te controleren valt. Classificatie, routing, entity-extractie, korte samenvattingen en on-device functionaliteit zijn de gebruikelijke gevallen. Het past ook als data binnen je eigen omgeving moet blijven, bijvoorbeeld onder de AVG of EU-dataresidentievereisten, omdat je het model dan zelf kunt hosten.
Wanneer heb je toch een LLM nodig
Je hebt een LLM nodig als verzoeken variëren, als de taak brede kennis vereist, of als het model over meerdere stappen moet plannen. Coding agents, research assistants en alles wat omgaat met onvoorspelbare gebruikersinput vallen hier doorgaans onder. Een klein model dat bij één op de vijf inputs faalt, kost meer aan support en herstelwerk dan de tokens die je hebt bespaard.
Kun je beide combineren
De meeste productiesystemen doen dat. Een veelgebruikt patroon stuurt elk verzoek eerst naar een SLM en escaleert naar een LLM als de zekerheid laag is of de taak als complex wordt gemarkeerd. Een AI gateway maakt deze routing eenvoudiger te beheren, omdat die de regels bijhoudt, de kosten per route logt en fallback afhandelt. Combineer de routing met evals zodat je kunt zien of het goedkopere pad nog steeds aan je kwaliteitseis voldoet.
Wat dit betekent voor je engineeringteam
Kiezen tussen de twee is een engineeringbeslissing, meer dan een inkoopaangelegenheid. Iemand moet de eval-set bouwen, kwaliteit per route meten, het kleine model tunen en beslissen waar een fout antwoord acceptabel is. Teams die dat werk overslaan, kiezen standaard overal voor het grootste model en merken de rekening later.
Engineers die zo werken, zijn vanaf dag één vertrouwd met evals, kostenbewaking en retrieval. Onze vetting plaatst kandidaten in een echte codebase voor twee sessies van zestig minuten: één zonder AI-tools en één met hun eigen agents aan, zodat je ziet hoe ze redeneren over dit soort afwegingen. Als je die kennis in een team nodig hebt, kijk dan naar AI engineers, vanaf €5.600 per maand voor een fulltime engineer.
Hoe je snel een beslissing neemt
Begin met de taak. Schrijf de input op, de verwachte output en hoe je die beoordeelt. Voer het eerst uit op een LLM om het plafond te zien, en probeer daarna een kleiner model op dezelfde voorbeelden. Als het kleine model de kwaliteitsgrens haalt die je hebt gesteld, verplaats je die route en houd je de LLM voor de rest. Als dat niet lukt, heb je een gemeten reden om te blijven.
Korte antwoorden
Is een SLM goedkoper dan een LLM?
Per verzoek meestal wel, omdat het minder rekenkracht nodig heeft. Fine-tuning, hosting en evals brengen engineeringkosten met zich mee, dus de besparing wordt pas zichtbaar bij hoge volumes.
Kan een SLM op een telefoon of laptop draaien?
Ja, modellen met een paar miljard parameters kunnen on-device draaien, wat de latency verbetert en data lokaal houdt.
Zijn SLMs minder nauwkeurig dan LLMs?
Voor brede taken wel. Voor een specifieke taak waarvoor ze zijn getraind, kan een klein model een groter model bijhouden.
Moet ik er één kiezen?
Nee. Veel teams sturen eenvoudige verzoeken naar een SLM en schalen moeilijke door naar een LLM.
