llamafile bundelt llama.cpp en een model in één uitvoerbaar bestand. Download, maak executable, draaien — geen installatie, geen dependencies. Werkt op Linux, macOS en Windows.
self-hostableC++beginner-friendlyapi
Features
- Eén-file distributie, geen dependencies
- OpenAI-compatible API server
- Cosmopolitan Libc voor cross-platform
- Ondersteunt veel GGUF modellen
Use cases
- Lokale LLM demo's zonder installatie
- AI in air-gapped omgevingen
Veelgestelde vragen over llamafile
- Wat is llamafile?
- llamafile bundelt llama.cpp en een model in één uitvoerbaar bestand. Download, maak executable, draaien — geen installatie, geen dependencies. Werkt op Linux, macOS en Windows.
- Voor wie is llamafile geschikt?
- llamafile is vooral geschikt voor Lokale LLM demo's zonder installatie, AI in air-gapped omgevingen. Primair geschreven in C++ en beschikbaar onder de Apache 2.0-licentie.
- Is llamafile gratis te gebruiken?
- Ja, llamafile is open source onder de Apache 2.0-licentie en gratis te gebruiken. Bekijk de officiële repository voor de meest actuele licentie-voorwaarden.
- In welke categorie valt llamafile?
- llamafile valt in de categorie LLMs & Inference. Andere tools in deze categorie vind je op /categories/llms-inference.
- Wat zijn de belangrijkste features van llamafile?
- Eén-file distributie, geen dependencies • OpenAI-compatible API server • Cosmopolitan Libc voor cross-platform • Ondersteunt veel GGUF modellen