Context window

Het context window is het maximale aantal woorden of tekens dat een AI-model in één keer kan onthouden en verwerken. Alles wat buiten dit bereik valt, wordt simpelweg vergeten zodra het model een nieuw antwoord genereert.

Technische werking

  1. Omzetten naar tokens. De tekst die je invoert wordt opgeknipt in kleine stukjes, oftewel tokens. Dit zijn geen hele woorden, maar vaak lettergrepen of clusters van tekens via Byte Pair Encoding.
  2. Vullen van het geheugen. Deze tokens worden in een actieve buffer geplaatst. Dit is de beschikbare ruimte waar het model naar kijkt om verbanden te leggen tussen woorden.
  3. Berekening van aandacht. Het model weegt elk token in het window af tegen de andere tokens om te bepalen wat relevant is voor het antwoord.
  4. Verwijderen van oude data. Als de limiet is bereikt en er komt nieuwe tekst bij, schuift de oudste informatie uit het window. De AI heeft dan geen toegang meer tot die specifieke details.

Belangrijke begrippen

  • Tokens. De rekeneenheid van een model. Een ruime schatting is dat 1000 tokens overeenkomen met 700 tot 800 woorden, afhankelijk van de taal en het model.
  • System prompt. De vaste instructies die bovenaan het window staan en bepalen hoe de AI zich moet gedragen. Deze nemen ook tokens in beslag.
  • Retrieval-augmented generation (RAG). Een techniek waarbij alleen de meest relevante fragmenten uit een database in het window worden geplaatst, zodat je geen gigantische hoeveelheden tekst hoeft te uploaden.
  • Context caching. Het tijdelijk opslaan van een groot stuk tekst in het geheugen, zodat je niet bij elke nieuwe vraag dezelfde enorme hoeveelheid tokens opnieuw hoeft te versturen.

Ontdekken wat we voor uw organisatie kunnen bereiken?

Vul ons contactformulier in en ontvang binnen 24 uur een persoonlijke reactie.

Geen enkele organisatie  is hetzelfde, daarom stellen we altijd een op maat gemaakt plan van aanpak op.

Laat onze ervaren consultants u begeleiden naar succes!

Praktijkvoorbeeld

Stel je voor dat je een AI gebruikt om teksten te schrijven voor example.nl, een webshop in tuinmeubelen. Je uploadt eerst een productcatalogus van 50 pagina’s en vraagt daarna om een pakkende tekst voor een specifieke loungebank. Als de catalogus groter is dan het context window, ziet de AI de details van die loungebank niet meer omdat ze uit het geheugen zijn geschoven.

Systeem: Je bent een copywriter voor example.nl.
Input: [Catalogus van 100.000 tokens]
Vraag: Schrijf een tekst over de 'Santeen Loungebank'.
Resultaat: "De Santeen is een mooie bank." (AI mist details over materiaal en afmetingen omdat deze buiten het window vielen).

Valkuilen

  • Te lange prompts. Je denkt dat meer informatie altijd beter is, maar een overvol window zorgt voor versnipperde aandacht. De AI mist dan vaak details in het midden van de tekst.
  • Vergeten van de systeeminstructie. Bij zeer lange gesprekken kan de oorspronkelijke opdracht uit het window verdwijnen, waardoor de AI plotseling een heel andere toon aanslaat.
  • Onjuiste schatting van tokens. Je rekent met het aantal woorden, maar speciale tekens en witruimtes tellen ook mee. Hierdoor zit je ongemerkt toch boven de limiet.

SEO begint bij kwalitatieve content

Verhoog je conversies met onze doelgerichte content!

Het geheim achter een bloeiende SEO-strategie? Kwalitatieve content die het hart van de doelgroep verovert. Met de juiste inhoud die naadloos inspeelt op de behoeften en verlangens van jouw potentiële klanten, til je jouw zichtbaarheid naar een hoger niveau.

Als je een sterke online aanwezigheid wilt opbouwen, is hoogwaardige content de sleutel tot jouw succes.

Gebruik en afwegingen

Kies voor een model met een groot context window als je hele documenten moet analyseren of complexe code-bestanden wilt laten controleren. De voorwaarde is dat de AI het overzicht moet houden over alle variabelen in een groot geheel.

Gebruik liever RAG of kortere prompts als je werkt met enorme databases. Het is namelijk goedkoper en sneller om alleen de juiste fragmenten aan te leveren dan om het hele archief in het window te proppen.

Controleren van de werking

  1. Test met een ‘marker’. Zet een uniek woord of cijfer aan het begin van je tekst en vraag de AI aan het einde van een lang gesprek of het dat woord nog weet.
  2. Meet het tokenverbruik. Gebruik een tokenizer-tool om te zien hoeveel tokens je input werkelijk inneemt voordat je het naar het model stuurt.
  3. Vergelijk antwoorden. Stel dezelfde vraag met de volledige tekst en daarna met een samenvatting; zie je een significant verschil in detailniveau?

Stop niet te veel data in één prompt, want drie kleine vragen geven vaak een nauwkeuriger resultaat.

Plak een lange tekst in je AI-tool en vraag halverwege om een samenvatting van de eerste alinea om te zien waar de grens ligt.

Gratis SEO scan van uw website?

Ontdek nu de verborgen potentie van uw website met onze GRATIS SEO scan! Onze geavanceerde tools en deskundige analyse bieden u een gedetailleerd inzicht in de verbeterpunten van uw online aanwezigheid.

Ontvang een uitgebreid rapport met waardevolle optimalisatie-tips die uw website naar nieuwe hoogten zullen stuwen. Neem vandaag nog de eerste stap naar een betere vindbaarheid en meer organisch verkeer. Mis deze kans niet – claim nu uw GRATIS SEO scan en maak uw website klaar voor succes!

Onze Specialisaties

Inhoudsopgave
Symblings Digital Marketing plaats foto
4.9
Gebaseerd op 14 beoordelingen

Categorieën

ONTVANG EEN GRATIS SEO ARTIKEL

Ontvang een gratis SEO artikel van 1000-1200 woorden die gegarandeerd jouw zoekposities zullen versterken.

Vraag direct aan

Veelgestelde vragen

Wat is een context window precies?

Het is het maximale aantal woorden of tekens dat een AI-model in één keer kan onthouden. Alles wat buiten dit bereik valt, wordt simpelweg vergeten zodra het model een nieuw antwoord geeft. Je kunt het zien als het actieve werkgeheugen van de AI tijdens een gesprek.

De grootte bepaalt hoeveel informatie de AI kan meenemen in zijn antwoord. Als je een heel document wilt analyseren of complexe code laat controleren, heb je een groot window nodig. Is het window te klein, dan mist de AI belangrijke details uit het begin van je tekst.

Zodra de limiet is bereikt, schuift de oudste informatie uit het geheugen. De AI heeft dan geen toegang meer tot die specifieke details. Hierdoor kan een antwoord oppervlakkig worden of vergeet de AI plotseling de instructies die je aan het begin van het gesprek hebt gegeven.

Een overvol window zorgt voor versnipperde aandacht. De AI kan dan belangrijke details in het midden van de tekst over het hoofd zien. Meer informatie is dus niet altijd beter; kortere prompts of drie kleine vragen geven vaak een nauwkeuriger resultaat.

Nee, de AI rekent met tokens. Dit zijn geen hele woorden, maar vaak lettergrepen of clusters van tekens. Speciale tekens en witruimtes tellen ook mee. Een vuistregel is dat 1000 tokens ongeveer gelijk staan aan 750 woorden.

Retrieval-augmented generation is een techniek waarbij alleen de meest relevante fragmenten uit een database in het window worden geplaatst. Zo hoef je geen gigantische hoeveelheden tekst te uploaden, wat sneller is en voorkomt dat belangrijke informatie uit het geheugen wordt geschoven.

Bij zeer lange gesprekken kan de oorspronkelijke systeeminstructie uit het window verdwijnen. De vaste instructies die bepalen hoe de AI zich moet gedragen, nemen namelijk ook tokens in beslag. Als deze weggedrukt worden door nieuwe tekst, weet de AI niet meer welke toon hij moet aanslaan.

Gebruik een marker. Zet een uniek woord of cijfer aan het begin van je tekst en vraag de AI aan het einde van een lang gesprek of hij dat woord nog weet. Zo bepaal je waar de grens van het geheugen ligt.

Gerelateerde artikelen

Scroll naar boven

Gratis SEO Artikel

Ontvang een gratis SEO-geoptimaliseerd artikel van 1000-1200 woorden door het formulier hieronder in te vullen en plaats het op jouw website om de kracht van onze content te ervaren.

Note: Geen idee wat een keyword is? Vul ‘onbekend’ in en wij nemen contact met je op.

Gratis SEO artikel
Gratis SEO artikel formulier (#7)

Onze privacy policy is van toepassing.

Vrijblijvende offerte

Ben je benieuwd wat wij voor uw organisatie kunnen betekenen? Laat dan uw gegevens achter via onderstaand formulier en wij nemen binnen 24 uur contact op.

Contact
Contactformulier aanvraag (#4)

Onze privacy policy is van toepassing.

Gratis persoonlijke SEO scan

Klaar voor een boost in uw online zichtbaarheid? Meld u aan voor een gratis, persoonlijke SEO scan tijdens een 1-op-1 Google Meet consult. Samen duiken we in de wereld van zoekmachineoptimalisatie specifiek voor uw website. Mis deze kans niet en vul onderstaand formulier in.

pasfoto tim van pel
Gratis SEO audit 1 op 1 formulier (#13)

Onze privacy policy is van toepassing.

Algoritme

Wat is het precies? 

Een algoritme is een reeks stappen of instructies die worden gebruikt om een specifiek probleem op te lossen. Het is als een recept dat een computer of een persoon kan volgen om een bepaald resultaat te bereiken. 

Algoritmen spelen een cruciale rol in de informatica en helpen bij het organiseren en verwerken van gegevens, het nemen van beslissingen en het automatiseren van taken. Ze kunnen worden toegepast in verschillende domeinen, zoals zoekmachines, routeplanners, machine learning en data-analyse. 

Kortom, algoritmen vormen de bouwstenen van onze digitale wereld en helpen bij het oplossen van complexe problemen.