Prompt engineering

Wat is het verschil tussen een prompt en prompt engineering?

Een prompt is de losse instructie die je aan een AI geeft, terwijl prompt engineering de bredere vaardigheid is om die prompts systematisch te ontwerpen, te testen en te verbeteren. Een prompt is dus het gereedschap, en prompt engineering is het vakmanschap waarmee je dat gereedschap effectief inzet. Wie eenmalig een vraag stelt aan een chatbot, gebruikt een prompt; wie een reeks prompts opzet, test tegen elkaar en systematisch verbetert voor een terugkerende taak, doet aan prompt engineering.

Welke technieken gebruikt prompt engineering?

Drie technieken vormen de basis van prompt engineering, elk geschikt voor een ander type taak:

• Zero-shot prompting: het model krijgt een taak zonder voorbeelden van de gewenste output, en leunt volledig op zijn training om een passend antwoord af te leiden.
• Few-shot prompting: je geeft het model een paar voorbeelden van de taak mee om de output te sturen, nuttig wanneer een taak specifiek genoeg is dat voorbeelden helpen.
• Chain-of-thought prompting (CoT): je laat het model een complexe taak in stappen uitwerken, wat leidt tot een beter en transparanter antwoord.

Chain-of-thought prompting is academisch verankerd: Wei et al. introduceerden de techniek in 2022 in hun onderzoek naar redeneervermogen bij grote taalmodellen. Kojima et al. bouwden daarop voort in datzelfde jaar met zero-shot chain-of-thought, waarbij het simpelweg toevoegen van de zin "Let's think step by step" aan een prompt het redeneervermogen van een model aantoonbaar verbetert, zonder dat er voorbeelden nodig zijn. Hun onderzoek leverde concrete cijfers op: op de MultiArith-rekenbenchmark steeg de nauwkeurigheid van 17,7 naar 78,7%, en op GSM8K, een verzameling wiskundige woordproblemen, van 10,4 naar 40,7%.

Wat is het verschil tussen prompt engineering, fine-tuning en RAG?

Prompt engineering, fine-tuning en RAG zijn drie verschillende manieren om de output van een AI-model te sturen, elk met een ander ingrijpniveau. Prompt engineering stuurt de output via de instructie zelf, zonder het onderliggende model te wijzigen: het is de lichtste en snelste ingreep. Fine-tuning past het model zelf aan met extra trainingsdata, wat meer tijd en technische kennis vraagt maar dieper ingrijpt op het gedrag van het model. RAG (Retrieval Augmented Generation) voegt externe, actuele kennis toe op het moment van de vraag, zodat het model kan putten uit informatie die niet in zijn oorspronkelijke training zat.

Onderstaande tabel zet de drie methoden naast elkaar.

Waarom is prompt engineering belangrijk?

Prompt engineering beïnvloedt direct de kwaliteit, relevantie en nauwkeurigheid van AI-output, en vermindert daarmee de handmatige nabewerking die achteraf nodig is om een antwoord bruikbaar te maken. Een goed doordachte prompt bespaart dus tijd: in plaats van een matig antwoord te corrigeren, krijg je in één keer een bruikbaarder resultaat.

Heb je prompt engineering nodig voor kantoorwerk?

Voor de meeste kantoortaken hoeft prompt engineering niet technisch te zijn. Het gaat vooral om helder formuleren, testen en itereren, niet om programmeren of wiskundige kennis. Het beroep prompt engineer bestaat wel, als een rol die zich specialiseert in het ontwerpen van complexe queries voor bedrijfstoepassingen, maar de onderliggende vaardigheid is voor iedereen bruikbaar die regelmatig met een chatbot of ander AI-model werkt.

Slordige prompt engineering vergroot bovendien het risico op een hallucinatie, een AI-model dat zelfverzekerd een onjuist antwoord presenteert. Een prompt die te vaag is of te veel ruimte laat voor interpretatie, nodigt een model eerder uit om hiaten zelf op te vullen.

Wil je AI-workflows opzetten die consistent bruikbare, betrouwbare output leveren voor jouw bedrijf? Bekijk onze GEO-dienst.