Prompt engineering is het proces van het strategisch formuleren en optimaliseren van tekstuele input om een specifiek, gewenst resultaat uit een groot taalmodel te verkrijgen. Het doel is om de output van het model te sturen door middel van context, instructies en beperkingen.
Technische werking
- Inputanalyse: Het model zet de ingevoerde tekst om in numerieke vectoren, zodat de betekenis van woorden en hun onderlinge relaties wiskundig worden verwerkt.
- Patroonherkenning: Op basis van trainingdata voorspelt het model welke tokens (tekstfragmenten) statistisch gezien het meest logische vervolg zijn op de gegeven prompt.
- Contextuele filtering: De specifieke instructies in de prompt beperken de zoekruimte van het model, waardoor het minder algemene en meer relevante antwoorden genereert.
- Outputgeneratie: Het model bouwt het antwoord token voor token op totdat een stopteken is bereikt of de maximale lengte is behaald.
Belangrijke begrippen
- Zero-shot prompting: Het model een opdracht geven zonder voorbeelden te tonen, waarbij het puur vertrouwt op zijn bestaande kennis.
- Few-shot prompting: Het toevoegen van enkele concrete voorbeelden aan de prompt om het gewenste format of de stijl van het antwoord te definiëren.
- Chain-of-thought: Het model instrueren om een probleem stap voor stap op te lossen, wat de nauwkeurigheid bij complexe logische taken verhoogt.
- Systeeminstructies: Overkoepelende regels die bepalen hoe het model zich gedurende het hele gesprek moet gedragen, zoals een specifieke persona of toon.
- Temperatuur: Een parameter die bepaalt hoe creatief of deterministisch het model is; een lage temperatuur geeft feitelijke, consistente antwoorden.


