Mistral is een familie van taalmodellen die tekst begrijpen en genereren. Het is een alternatief voor gesloten systemen zoals GPT, waarbij de focus ligt op hoge snelheid en efficiëntie zonder dat je direct afhankelijk bent van één grote Amerikaanse techreus.
Technische werking
- Inputverwerking: Je voert tekst in die het model opknapt in kleine stukjes, oftewel tokens.
- Patroonherkenning: De Mixture-of-Experts architectuur zorgt dat niet het hele model hoeft te rekenen, maar alleen de relevante delen voor jouw specifieke vraag.
- Aandachtmechanisme: Via Sliding Window Attention kijkt het model naar de context van eerdere woorden om de betekenis te bepalen, zonder dat het geheugen overbelast raakt.
- Voorspelling: Het model berekent welk woord het meest logisch volgt op de vorige woorden en bouwt zo een antwoord op.
Belangrijke varianten
- Mistral 7B: Een compact model dat weinig rekenkracht vraagt, maar goede prestaties levert voor de modelgrootte.
- Mistral Large: Het zware geschut voor complexe taken, zoals diepgaande analyses of lastige programmeerkwesties.
- Mistral Medium: De middenweg tussen snelheid en intelligentie, geschikt voor de meeste zakelijke teksten.
- Le Chat: De interface waar je direct met de modellen kunt chatten, vergelijkbaar met hoe je ChatGPT gebruikt.


