Ollama installeren en je eerste lokale model testen

Controleer eerst je systeem en de uitvoerlocatie

Bekijk de actuele systeemeisen en hardwareondersteuning voordat je installeert. Gebruik de officiële Ollama-download of de installatie-instructies voor je besturingssysteem. Noteer je gekozen toepassing- en stuurprogrammaversie, zodat je een probleem later kunt reproduceren.

Maak voor deze proef geen externe toegang tot je computer nodig. Werk op je eigen machine met een ongevoelige opdracht. In de interface kies je een lokaal model; een cloudoptie voert de berekening elders uit.

Installeer en controleer de opdrachtregel

1. Open de officiële downloadpagina en volg de route voor je systeem.
2. Start de toepassing of de service volgens die instructies.
3. Open een terminal en controleer of de opdracht beschikbaar is.

ollama --version
ollama list

De eerste opdracht toont de geïnstalleerde versie. De tweede laat lokaal aanwezige modellen zien; na een verse installatie kan die lijst leeg zijn. Werkt de opdracht niet, herstel dan eerst de installatie voordat je een groot model downloadt.

Kies en start een lokaal model

Kies een modelvariant in de officiële bibliotheek en lees de modelkaart. Neem een compacte variant die bij je taak past. Vervang in het volgende patroon de aanduiding door de exacte naam uit de bibliotheek; het is geen letterlijk te downloaden modelnaam.

ollama run MODELNAAM

Gebruik een korte proefvraag. Noteer de exacte modeltag, want varianten kunnen verschillen in geheugenbehoefte en gedrag. Beoordeel het antwoord op inhoud voordat je de proef met grotere documenten uitbreidt.

Controleer tijdens gebruik de GPU-verdeling

Open terwijl het model geladen is een tweede terminal.

ollama ps

De kolom PROCESSOR helpt vaststellen of het model op CPU, GPU of verdeeld over beide draait. Een geïnstalleerd stuurprogramma bewijst op zichzelf geen GPU-uitvoering. Maak onderscheid tussen het laden van het model en de tijd voor een volgende reactie.

Leg bij problemen de uitvoer, softwareversie en modeltag vast. Volg daarna de controle voor ontbrekend GPU-gebruik. Raadpleeg bij afwijkende interface of opties de actuele officiële instructies; deze pagina is een routekaart, geen vastgezette softwareversie.

Een uitvoerbare proef met Llama 3.2

De officiële bibliotheek bevat onder meer Llama 3.2 in 1B- en 3B-varianten. Je kunt de 3B-variant gebruiken als installatieproef, mits je systeem die aankan. Dit is een concreet voorbeeld, geen aanbeveling als beste of nieuwste model. Lees vooraf de modelkaart en licentie.

ollama run llama3.2:3b

Stel na het laden een kleine controlevraag, bijvoorbeeld: “Een afspraak begint om 10:00 en duurt 30 minuten. Hoe laat eindigt die?” Beoordeel of er een antwoord verschijnt en of het de opgegeven gegevens volgt. Eén correct antwoord zegt nog niets over algemene betrouwbaarheid of de geschiktheid voor jouw werk.

Controleer tijdens gebruik in een tweede terminal de geladen modellen. Na je proef kun je het model gericht uitladen:

ollama ps
ollama stop llama3.2:3b

Deze stopopdracht is iets anders dan het modelbestand verwijderen. Houd voor Nederlandse inhoud rekening met de talen op de modelkaart: Nederlands staat daar niet tussen de officieel ondersteunde talen. Gebruik deze installatieproef daarom niet als bewijs dat dit model jouw Nederlandse taken goed uitvoert.