Hoe grote taalmodellen zoals GPT werken

GPT zoekt antwoorden niet op in een database. Het bouwt tekst stukje voor stukje op aan de hand van patronen uit de training. Als je dat begrijpt, snap je meteen de sterke punten, de fouten en hoe je het best prompt.

6 min leestijdBijgewerkt

Wanneer je een vraag typt in onze chat, zoekt GPT niet in een database met opgeslagen antwoorden. Het schrijft een compleet nieuw antwoord, stukje voor stukje, gebaseerd op patronen die het tijdens de training uit een gigantische hoeveelheid tekst heeft gehaald. Dat ene idee verklaart een hoop: waarom het zo goed is met taal, waarom het bijna alles kan uitleggen, waarom het soms vol zelfvertrouwen onzin verkondigt én waarom de manier waarop je iets vraagt zoveel uitmaakt. Deze gids legt de belangrijkste onderdelen helder uit, zonder wiskundig gedoe, inclusief wat dit betekent voor jouw chats.

De letters in GPT

GPT staat voor generative pre-trained transformer. Generative betekent dat het nieuwe tekst genereert in plaats van standaardantwoorden te kiezen. Pre-trained betekent dat het eerst getraind is op een enorme verzameling teksten voordat het werd afgestemd op gesprekken. Transformer is het type neuraal netwerk onder de motorkap — een architectuur die in 2017 door onderzoekers van Google werd gepresenteerd en die bijzonder goed is in het leggen van verbanden tussen woorden. OpenAI bracht zijn eerste GPT-model uit in 2018. De modellen in onze chat, GPT-6 Luna en GPT-6.1 Terra, zijn recente telgen uit dezelfde familie. De pagina over de geschiedenis van GPT bevat de volledige tijdlijn, en wat is GPT geeft je het bredere plaatje.

Tokens: hoe een model leest

Een model ziet geen letters of hele woorden. Tekst wordt eerst opgeknipt in tokens. Een veelvoorkomend woord is meestal één token; een lang of zeldzaam woord wordt opgesplitst in meerdere fragmenten. De vuistregel van OpenAI voor het Engels is dat een token ongeveer driekwart van een woord beslaat. Andere talen hebben vaak meer tokens nodig voor dezelfde inhoud.

Tokens verklaren een paar eigenaardigheden. Modellen kunnen moeite hebben met het tellen van letters in een woord, simpelweg omdat ze letters nooit los zien. Limieten voor invoer en uitvoer worden gemeten in tokens, niet in tekens. En ontwikkelaarstarieven, zoals te zien op onze GPT API-pagina, worden berekend per miljoen tokens.

Voorspellen, stap voor stap

In de basis doet het model maar één ding: op basis van alle tekst tot nu toe schatten welk token waarschijnlijk als volgende komt. Het kiest er een, plakt die aan de tekst vast en herhaalt dat proces — honderden of duizenden keren — totdat het antwoord compleet is. Daarom verschijnen antwoorden geleidelijk in de chat en niet in één keer.

Een vleugje willekeur bij die keuze zorgt ervoor dat antwoorden niet elke keer identiek zijn. Dat is ook wat de knop voor opnieuw genereren gebruikt: vraag het nog eens en je krijgt een andere route door dezelfde kennis. Onze chat bewaart eerdere pogingen als versies, zodat je ze kunt vergelijken.

Voorspellen klinkt eenvoudig, maar om accuraat te voorspellen over miljarden voorbeelden moet een model grammatica, feiten, stijlen, redeneerpatronen en nog veel meer oppikken. Wat lijkt op echt begrip, ontstaat puur uit die drang om het volgende stukje tekst te voorspellen.

Hoe een model wordt getraind

GPT-modellen worden in fasen opgebouwd:

  1. Pre-training. Het model verwerkt een gigantische hoeveelheid tekst en oefent steeds één taak: het volgende token raden. In deze fase kan het elke tekst voortzetten, maar is het nog geen fijne gesprekspartner.
  2. Instruction tuning. Het wordt getraind op voorbeelden van vragen en goede antwoorden, zodat het leert instructies op te volgen en vragen te beantwoorden.
  3. Feedback en reinforcement learning. Mensen en geautomatiseerde checks beoordelen de antwoorden, waarna het model wordt bijgestuurd richting behulpzame, accurate en veilige reacties. Redeneermodellen worden op een vergelijkbare manier getraind om problemen stap voor stap te doordenken vóórdat ze antwoorden.

De training stopt op een bepaald moment, en die datum is de kennisgrens (knowledge cut-off) van het model. Volgens OpenAI loopt de data van GPT-6 Luna tot 18 mei 2026 en die van GPT-6.1 Terra tot 1 juni 2026. Alles van daarna kent het model simpelweg niet, tenzij je het zelf in het gesprek plakt; onze chat surft immers niet op het web.

Het contextvenster: wat het model ziet

Een model heeft geen geheugen tussen losse gesprekken. Binnen één chat ziet het een context: de instructies, de berichten tot nu toe en je nieuwste vraag, allemaal omgerekend naar tokens. OpenAI geeft Luna en Terra een contextvenster van ongeveer 1,05 miljoen tokens — genoeg voor meerdere dikke boeken.

Een gratis chat zoals de onze stuurt een veel compacter deel mee: het meest recente stuk van het gesprek, zodat de antwoorden lekker snel blijven. In een heel lange chat kunnen eerdere berichten buiten beeld vallen. Is een bepaald detail belangrijk, herhaal het dan even of start een nieuwe chat met een korte samenvatting van waar je bent gebleven. Elke chat staat volledig op zichzelf; het model herinnert zich niets van wat je in een ander gesprek hebt gezegd.

Redeneren: eerst denken, dan antwoorden

Redeneermodellen genereren achter de schermen eerst een denkproces voordat ze het zichtbare antwoord geven. Dat geeft ze de kans om een probleem in stappen op te delen en eventuele foutjes tijdig te corrigeren, al kost dat iets meer tijd. In onze chat schakelt de knop Think over naar GPT-6.1 Terra, die kort nadenkt; GPT-6 Luna, de standaard, antwoordt vrijwel direct. Onze gids over redeneermodellen legt uit wanneer die korte denkpauze de moeite waard is.

Waar verzonnen antwoorden vandaan komen

Omdat het model altijd een geloofwaardige voortzetting wil schrijven, doet het dat zelfs als de feiten ontbreken. Vraag je om een bron over een niche-onderwerp, dan krijg je een antwoord dat verdacht veel op een bronvermelding lijkt, of die bron nu echt bestaat of niet. Een vraag over een onbekend dorpje levert details op die typisch zijn voor dorpen in het algemeen. Het model heeft vanbinnen geen betrouwbaar signaal dat zegt: "Dit weet ik niet", al geven nieuwere modellen hun twijfels steeds vaker toe. Daarom blijft controleren belangrijk bij namen, cijfers, data en citaten; onze factcheck-gids biedt hiervoor een handig stappenplan.

Wat dit betekent voor je prompts

Al het bovenstaande vertaalt zich naar een paar praktische regels:

Zwak:
Wat zegt het contract over eerder opzeggen?

Sterk:
Hier is artikel 9 van mijn huurcontract: [plak artikel].
Leg in eenvoudig Nederlands uit wanneer ik het contract eerder
mag opzeggen, welke opzegtermijn geldt en wat het me kan kosten.
Citeer telkens de zin waarop elk punt is gebaseerd.
  • Plak de brontekst erbij. Het model werkt veel beter met tekst die direct in de context staat dan met vage herinneringen uit zijn trainingsdata.
  • Wees specifiek. Elk detail dat je toevoegt, stuurt de voorspelling gerichter naar het gewenste resultaat.
  • Vraag om citaten of bronnen uit de meegeleverde tekst, zodat je elk punt meteen kunt verifiëren.
  • Begin met een schone lei als een lang gesprek is ontspoord; een korte samenvatting in een nieuwe chat werkt vaak een stuk beter. De samenvatter kan die samenvatting zo voor je maken.
Zie het als een belezen schrijver zonder aantekeningen. Het heeft enorm veel gelezen, formuleert soepel en kan bijna alles uitleggen, maar kan niets even snel nazoeken. Geef de feiten die je hebt, en controleer de feiten die je niet zeker weet.

Wil je het in actie zien? Vraag GPT om zichzelf uit te leggen in vijf stappen, en stel daarna gerichte vervolgvragen over de delen die nog niet helder zijn.

Veelgestelde vragen

Begrijpt GPT wat het schrijft?

Dat hangt af van wat je onder begrip verstaat. Het legt verbanden tussen concepten overduidelijk goed genoeg om erover te vertellen, samen te vatten en te redeneren. Het heeft echter geen ervaring met de echte wereld en geen waterdichte manier om een hard feit te onderscheiden van een aannemelijke gok.

Leert het van mijn chats?

Niet tijdens het gesprek, en ook niet tussen verschillende gesprekken in onze chat. De kennis van het model ligt na de trainingsfase definitief vast. OpenAI verklaart dat gegevens die via de API worden verstuurd niet worden gebruikt voor trainingen, tenzij de klant hier expliciet toestemming voor geeft.

Waarom krijg ik een ander antwoord als ik het opnieuw vraag?

Het model kiest elk volgend token met een klein beetje willekeur. Daardoor kan dezelfde vraag tot een andere formulering of structuur leiden. Bij feitelijke vragen is een wisselend antwoord een goed signaal om het even extra te controleren.

Is GPT hetzelfde als ChatGPT?

Nee. GPT is de familie van taalmodellen ontwikkeld door OpenAI; ChatGPT is de officiële app van OpenAI die op deze modellen draait. gpt.me is een onafhankelijke site die GPT-modellen via een API gebruikt; onze vergelijking met ChatGPT zet alle verschillen op een rij.

Heb je een vraag? Stel hem gerust

Geen account nodig en geen download. Open de chat, typ wat je bezighoudt en binnen een paar seconden verschijnt het antwoord.

Start met chatten