Een hallucinatie in de context van kunstmatige intelligentie is een foutief gegenereerd antwoord waarbij een model feiten, gebeurtenissen of bronnen verzint die niet in de trainingsdata staan. Het model presenteert deze onjuiste informatie met grote stelligheid, waardoor het resultaat geloofwaardig maar feitelijk onjuist is.
Technische werking
- Patroonvoorspelling: Large Language Models voorspellen het volgende woord (token) op basis van statistische waarschijnlijkheden uit hun trainingsset.
- Koppeling zonder feiten: Wanneer het model geen specifieke data heeft over een onderwerp, vult het de leemte in door patronen te combineren die grammaticaal kloppen, maar feitelijk onjuist zijn.
- Zelfversterking: Het model bouwt voort op zijn eigen eerdere onjuiste woorden in een zin, waardoor de hallucinatie intern consistent blijft terwijl deze extern onwaar is.
- Outputgeneratie: Het resultaat wordt gepresenteerd als een vloeiend, coherent antwoord omdat de focus ligt op taalstructuur en niet op een externe database met waarheden.
Belangrijke begrippen
- Probabilistisch model: Een systeem dat werkt op basis van kansberekening in plaats van harde logica of een database.
- Grounding: Het proces waarbij een AI-model wordt gekoppeld aan externe, verifieerbare bronnen om de kans op hallucinaties te verkleinen.
- Temperature: Een instelling die bepaalt hoeveel risico het model neemt; een hogere temperatuur zorgt voor creatievere, maar onbetrouwbaardere antwoorden.
- Prompt Engineering: Het optimaliseren van de instructie om het model te dwingen alleen informatie uit een specifieke tekstbron te gebruiken.
