Ollama is de makkelijkste manier om open-source large language models zoals Llama 3, Mistral en Gemma lokaal te draaien. Eén binary, modellen via `ollama pull`, REST API out of the box en goede GPU-ondersteuning (Metal, CUDA, ROCm).
self-hostablecliapiproduction-readybeginner-friendly
Features
- Eén binary, geen externe dependencies
- REST API compatible met OpenAI format
- Modellen via eenvoudig `ollama pull` commando
- Modelfile om eigen modellen te defineren
- Cross-platform: macOS, Linux, Windows
Use cases
- Lokale chatbot bouwen zonder cloud-kosten
- Privacy-gevoelige data analyse
- Prototype fase voor LLM features
Veelgestelde vragen over Ollama
- Wat is Ollama?
- Ollama is de makkelijkste manier om open-source large language models zoals Llama 3, Mistral en Gemma lokaal te draaien. Eén binary, modellen via `ollama pull`, REST API out of the box en goede GPU-ondersteuning (Metal, CUDA, ROCm).
- Voor wie is Ollama geschikt?
- Ollama is vooral geschikt voor Lokale chatbot bouwen zonder cloud-kosten, Privacy-gevoelige data analyse, Prototype fase voor LLM features. Primair geschreven in Go en beschikbaar onder de MIT-licentie.
- Is Ollama gratis te gebruiken?
- Ja, Ollama is open source onder de MIT-licentie en gratis te gebruiken. Bekijk de officiële repository voor de meest actuele licentie-voorwaarden.
- In welke categorie valt Ollama?
- Ollama valt in de categorie LLMs & Inference. Andere tools in deze categorie vind je op /categories/llms-inference.
- Wat zijn de belangrijkste features van Ollama?
- Eén binary, geen externe dependencies • REST API compatible met OpenAI format • Modellen via eenvoudig `ollama pull` commando • Modelfile om eigen modellen te defineren • Cross-platform: macOS, Linux, Windows
Andere tools in LLMs & Inference
llama.cpp
C++ inference engine voor Meta's LLaMA en vrienden.
72k+
C++MITself-hostableC++cli+2
vLLM
High-throughput LLM serving engine.
30k+
PythonApache 2.0apiproduction-readyself-hostable+1
LM Studio
Desktop GUI voor het draaien van lokale LLMs.
30k+
TypeScriptProprietary (free for personal use)desktopguibeginner-friendly+1