Het model leren
Tijdens training worden de miljarden numerieke waarden in het netwerk, de parameters, aangepast.
Lespagina · Generatieve AI
Wat gebeurt er als jij ChatGPT iets vraagt?
ChatGPT is niet één magisch brein. Het is een compleet AI-systeem waarin een LLM, context, memory, tools, agents en een harness samenwerken. Hier leer je wat die termen betekenen.
Het grote plaatje
Jouw vraag
→
ChatGPT
Harness
→
LLM
Tools
↔
LLM
Antwoord
←
Agent Loop
Onthoud vooral: het LLM is een onderdeel van ChatGPT. Het is niet hetzelfde als ChatGPT.
1. Het LLM
LLM staat voor Large Language Model. Een LLM is dus een groot taalmodel: een neuraal netwerk dat tijdens training patronen heeft geleerd uit enorme hoeveelheden data. GPT staat voor Generative Pre-trained Transformer.
Het model gebruiken
Als jij ChatGPT gebruikt, wordt een al getraind LLM uitgevoerd. Dat uitvoeren heet inference.
De architectuur
De Transformer is de neurale-netwerkarchitectuur waarop GPT-modellen zijn gebaseerd.
LLM ≠ ChatGPT
Het LLM genereert en verwerkt informatie. ChatGPT is het complete product daaromheen: interface, context, memory, tools, agentlogica, harness en veiligheidsregels.
2. Tokens: een LLM ziet geen woorden zoals jij
Voordat tekst naar een LLM gaat, deelt een Tokenizer die tekst op in tokens. Een token kan een heel woord zijn, maar ook een woorddeel, leesteken of zelfs een spatie samen met tekst.
Illustratief voorbeeld
onwaarschijnlijkheid
on
waarschijnlijk
heid
Waarom wordt een woord opgesplitst?
Een tokenizer heeft een verzameling tekststukjes geleerd die efficiënt hergebruikt kunnen worden. Veelvoorkomende woorden passen soms in één token. Minder gebruikelijke of langere woorden kunnen uit meerdere tokens bestaan.
Let op: dit voorbeeld laat het principe zien. De exacte verdeling verschilt per tokenizer en model.
Tokens zijn ook niet hetzelfde als lettergrepen of taalkundige morfemen.
3. Context en Context Window
Het LLM kan niet onbeperkt alles tegelijk meenemen. De informatie die het op dat moment kan gebruiken heet de Context. De maximale hoeveelheid heet het Context Window en wordt in tokens gemeten.
Wat kan er in de context zitten?
Bijvoorbeeld jouw vraag, eerdere berichten, instructies van het systeem, informatie uit bestanden, resultaten van tools en relevante memory.
GesprekInstructiesBestandenToolsMemory
Illustratie. De echte verdeling is niet vast.
Context is niet hetzelfde als Memory.
Context is wat het LLM nú kan zien. Memory is informatie die buiten die actieve context bewaard kan worden en later opnieuw toegevoegd kan worden.
4. Prompt en Harness
De Prompt is meer dan alleen het bericht dat jij intypt. Achter de schermen kan ChatGPT daar bijvoorbeeld systeeminstructies, eerdere berichten, memory en informatie over beschikbare tools aan toevoegen.
De input voor het LLM
Alle relevante instructies en informatie die voor een inference aan het LLM worden aangeboden.
De software eromheen
De harness beheert onder andere context, tools, permissions, tool calls en de stappen van een agent.
Het LLM vraagt om een actie
Bijvoorbeeld: zoek op internet, lees een bestand, gebruik Python of raadpleeg een agenda.
5. Van LLM naar Agent
Een Agent kan een doel krijgen en daar meerdere stappen voor uitvoeren. De herhaling daarvan heet een Agent Loop.
Vraag“Vergelijk drie laptops.”
→
LLMBedenkt de volgende stap.
→
Tool CallZoekt bijvoorbeeld informatie op.
→
ResultaatTerug naar het LLM, dan eventueel opnieuw.
Agent Loop = LLM → actie → resultaat → LLM → ...
De agent kan dus meerdere keren nadenken en tools gebruiken voordat jij het eindantwoord krijgt.
6. Hallucinaties: als een aannemelijk antwoord niet waar is
Een hallucinatie is informatie die door het LLM wordt gegenereerd maar feitelijk niet klopt. Het bijzondere is dat zo'n antwoord er vaak heel geloofwaardig uit kan zien.
Waarom kan dit gebeuren?
Een LLM is in de basis gebouwd om te voorspellen welke tokens waarschijnlijk goed op de vorige tokens volgen.
Het heeft geleerd hoe een betrouwbaar klinkend antwoord, een wetsartikel, een bronvermelding of een citaat eruitziet.
Dat is niet hetzelfde als controleren of zo'n bron of feit werkelijk bestaat.
Een niet-bestaande wet
Vraag: “Welke Nederlandse wet verbiedt scholen huiswerk te geven tijdens schoolvakanties?”
Verzonnen voorbeeldantwoord: “Dat staat in artikel 7 van de Wet Onderwijsvrije Perioden.”
Zo'n naam klinkt juridisch aannemelijk, maar die wet bestaat niet. Een LLM kan het patroon van Nederlandse wetsnamen nabootsen.
Een verzonnen citaat
Vraag: “Geef een letterlijk citaat uit een roman dat dit thema bewijst, met paginanummer.”
Mogelijke hallucinatie: het LLM produceert een zin die qua stijl bij het boek lijkt te passen, plus een overtuigend paginanummer.
Het model heeft het patroon “citaat + bron + pagina” geleerd. Dat betekent niet dat het de bewuste editie daadwerkelijk voor zich heeft.
Een bron die niet bestaat
Vraag: “Noem drie wetenschappelijke onderzoeken die mijn stelling bewijzen.”
Mogelijke hallucinatie: een geloofwaardige titel, onderzoekersnaam, tijdschrift en DOI die bij controle nergens te vinden zijn.
Bronvermeldingen hebben heel herkenbare patronen. Een LLM kan die patronen genereren zonder dat de bijbehorende publicatie bestaat.
1. VoorspellenHet LLM kiest waarschijnlijke volgende tokens, niet automatisch “de waarheid”.
2. PatronenHet weet hoe wetten, citaten en bronnen eruit horen te zien.
3. De vraag stuurtEen vraag die al veronderstelt dat iets bestaat kan het model richting een verzonnen invulling duwen.
4. Geen automatische controleZonder zoektool, document of andere grounding hoeft een gegenereerde bewering niet geverifieerd te zijn.
6
expliciet erkende niet-bestaande beslissingen
Echt gebeurd · Mata v. Avianca
ChatGPT verzon rechtspraak en de advocaten dienden die in bij de rechtbank
In de Amerikaanse zaak Mata v. Avianca gebruikte advocaat Steven Schwartz ChatGPT voor juridisch onderzoek. De tegenpartij meldde dat zij zeven aangehaalde “decisions” niet kon terugvinden. Later erkenden de betrokken advocaten dat zes genoemde beslissingen door ChatGPT waren gegenereerd en niet bestonden.
Opvallend is dat ChatGPT niet alleen zaken had verzonnen, maar volgens de rechtbank daarna ook bleef beweren dat de bronnen echt waren en via juridische databanken te vinden zouden zijn. De rechter legde uiteindelijk sancties op.
Belangrijk verschil: overtuigend ≠ gecontroleerd.
De toon van een antwoord is geen betrouwbaarheidsmeter. Een LLM kan een fout antwoord net zo netjes formuleren als een correct antwoord.
7. Chat versus Work in ChatGPT
Het verschil zit niet simpelweg in “een slimmer LLM”. Het zit vooral in de manier waarop ChatGPT de taak, tools en agentische workflow eromheen organiseert.
Gesprek en snelle hulp
Voor vragen, uitleg, schrijven, analyseren en samenwerken in een gesprek.
- De conversatie staat centraal
- Jij stuurt vaak per bericht bij
- Chat kan ook tools gebruiken
Langere taken van begin tot eind
Een agentische omgeving voor langere taken met meerdere stappen en een concreet eindresultaat.
- Meer nadruk op zelfstandig doorwerken
- Meerdere stappen en tools
- Kan deliverables zoals documenten, spreadsheets of presentaties maken
Nog een paar termen
Niet alles hoeft vandaag in je RAM-geheugen. Daar heeft de mens samenvattingen voor uitgevonden.
Multimodal
Een model of AI-systeem dat meerdere soorten informatie kan verwerken, bijvoorbeeld tekst, beeld en audio.
Grounding
Een antwoord baseren op concrete bronnen of gegevens, bijvoorbeeld een document, database of zoekresultaat.
Function Calling
Een mechanisme waarmee het LLM gestructureerd kan aangeven welke externe functie of tool het wil gebruiken.
Reasoning
Extra modelverwerking om complexere problemen stapsgewijs op te lossen voordat het uiteindelijke antwoord wordt gegeven.
Het LLM is de motor.
ChatGPT is de hele auto.
De motor bepaalt veel van wat mogelijk is. Maar context, memory, tools, de harness en agentlogica bepalen wat het complete AI-systeem daadwerkelijk kan doen.