Perplexity is een zoek- en antwoordmachine die gebruikmaakt van generatieve AI om directe antwoorden te formuleren op basis van actuele webbronnen. In tegenstelling tot traditionele zoekmachines geeft het geen lijst met links, maar een samengevoegde tekst inclusief bronvermeldingen naar de gebruikte websites.
Technische werking
- De gebruiker voert een natuurlijke taalvraag in die door het systeem wordt geanalyseerd om de zoekintentie te bepalen.
- Het systeem voert realtime zoekopdrachten uit op het internet om relevante webpagina’s, artikelen en documenten te vinden.
- Via Retrieval Augmented Generation (RAG) worden de meest relevante fragmenten uit deze gevonden bronnen geselecteerd.
- Deze fragmenten worden samen met de oorspronkelijke vraag naar een Large Language Model (LLM) gestuurd als context.
- Het LLM synthetiseert de informatie en schrijft een antwoord dat strikt gebaseerd is op de aangeleverde bronnen.
- Het systeem plaatst numerieke citaten in de tekst die direct linken naar de specifieke bronnen waar de informatie vandaan komt.
Belangrijke begrippen
Retrieval Augmented Generation
RAG is de techniek waarbij een AI-model niet alleen vertrouwt op zijn eigen interne trainingsdata, maar externe informatie ophaalt om een antwoord te formuleren. Dit voorkomt dat het model feiten verzint en zorgt ervoor dat de informatie actueel is.
Large Language Models
Dit zijn neurale netwerken die getraind zijn op enorme hoeveelheden tekst om menselijke taal te begrijpen en te genereren. Perplexity stelt gebruikers vaak in staat om te wisselen tussen verschillende modellen, afhankelijk van de gewenste snelheid of redeneerkracht.
Transformer architectuur
De basisstructuur van moderne LLM’s die gebruikmaakt van een mechanisme genaamd ‘attention’. Hierdoor kan het model verbanden leggen tussen woorden die ver uit elkaar staan in een zin, wat noodzakelijk is voor het begrijpen van complexe contexten.
Perplexity score
Binnen de natuurlijke taalverwerking is perplexity een maatstaf voor hoe goed een kansmodel een sample voorspelt. Een lage score betekent dat het model minder verrast is door de werkelijke data en dus een nauwkeuriger voorspellingsmodel heeft voor de volgende woorden in een reeks.
Context window
De maximale hoeveelheid tekst (tokens) die een model in één keer kan verwerken. Bij het ophalen van bronnen bepaalt dit hoeveel informatie uit de zoekresultaten daadwerkelijk meegenomen kan worden in het definitieve antwoord.
Hallucinaties
Het fenomeen waarbij een AI-model met overtuiging informatie presenteert die feitelijk onjuist is. Door de koppeling aan realtime bronnen probeert Perplexity dit risico te minimaliseren ten opzichte van standaard chat-AI.
Praktijkvoorbeeld
Een webshopeigenaar wil weten hoe zijn producten scoren ten opzichte van de concurrentie op basis van recente reviews op onafhankelijke fora. De eigenaar voert de volgende prompt in:
Vergelijk de ingrediënten van het hondenvoer van example.nl met die van de drie grootste concurrenten in Nederland op basis van recente consumentenreviews en productbladen. Vat de belangrijkste plus- en minpunten samen in een tabel.
Het systeem doorzoekt het web, identificeert de concurrenten en analyseert de productpagina’s. De gebruiker ziet een gegenereerd antwoord waarin staat: Example.nl scoort hoger op het gebied van duurzame verpakking, terwijl andere aanbieders soms worden geprezen om de verteerbaarheid van het graanvrije voer [1][3]. Boven het antwoord staan de gebruikte bronnen, zoals een reviewsite en een ingrediëntenlijst van een concurrent.
Veelgemaakte fouten en valkuilen
- Blind vertrouwen op de samenvatting: Het systeem kan een nuance uit een bron over het hoofd zien of een citaat uit context trekken. Controleer altijd de gekoppelde bron via het cijfer bij de bewering.
- Te brede zoekopdrachten: Vragen als “Wat vind men van mijn bedrijf?” leveren vaak generieke resultaten op. Specificeer de bronnen of aspecten (bijvoorbeeld “klantenreviews over levertijd”) voor nauwkeurigere antwoorden.
- Verwarring met een statische database: Denken dat de AI alle informatie uit het verleden onthoudt. Elke nieuwe ’thread’ begint in principe met een schone lei, tenzij specifieke context wordt meegegeven.
- Ontbreken van bronverificatie bij complexe data: Bij het opvragen van technische specificaties of wettelijke kaders kan de AI informatie uit verschillende bronnen combineren die elkaar tegenspreken. Het niet controleren van welke bron prioriteit heeft leidt tot foutieve conclusies.
- Verkeerde modelkeuze voor de taak: Een lichtgewicht model gebruiken voor complexe data-analyse waarbij een krachtiger model zoals Claude 3.7 Sonnet nodig is voor diepere redenering.
Gebruiksscenario’s
Wanneer wel gebruiken
Gebruik het systeem voor feitelijk onderzoek waarbij actuele informatie vereist is, zoals marktanalyse of het controleren van recente software-updates. De voorwaarde is dat de informatie publiekelijk toegankelijk is op het web.
Wanneer niet gebruiken
Gebruik het systeem niet voor het verwerken van strikt vertrouwelijke bedrijfsgegevens die niet op internet staan, tenzij er gebruik wordt gemaakt van beveiligde enterprise-omgevingen. De afweging is hier dat data die in prompts wordt ingevoerd, afhankelijk van je accounttype en de privacy-instellingen, gebruikt kan worden voor modelverbetering.
Wanneer wel gebruiken
Zet het in voor het snel filteren van grote hoeveelheden informatie, zoals het samenvatten van meerdere wetenschappelijke artikelen over één onderwerp. De voorwaarde is dat je de resultaten valideert aan de hand van de getoonde bronvermeldingen.
Wanneer niet gebruiken
Vermijd het voor creatief schrijven waarbij een specifieke, unieke merkstem vereist is zonder externe feitelijke basis. De focus op bronvermelding maakt het minder geschikt voor puur abstracte creatieve processen dan gespecialiseerde LLM’s.
Controle en start
- Maak een account aan om zoekgeschiedenis op te slaan en toegang te krijgen tot verschillende LLM-modellen.
- Kies in de instellingen het model dat past bij de taak: een snel model voor simpele vragen of een geavanceerd model voor complexe analyses.
- Voer een testvraag in over een actueel onderwerp waarvan je het antwoord al weet om de nauwkeurigheid van de bronvermelding te controleren.
- Controleer of de citaties in de tekst daadwerkelijk naar de bewuste passage op de bronwebsite leiden door op het cijfer te klikken.
- Gebruik de Focus-functie om de zoekopdracht te beperken tot specifieke domeinen, zoals alleen academische papers of sociale media.
Gebruik de ‘Focus’ instelling om zoekopdrachten te beperken tot specifieke broncategorieën, waardoor je de zoekopdracht beperkt tot relevante domeinen.
