C++
4 toolsC++-tools draaien vaak het snelst en op de breedste hardware.
llama.cpp
LLMs & InferenceC++ inference engine voor Meta's LLaMA en vrienden.
72k+
C++MITself-hostableC++cli+2
KoboldCpp
LLMs & InferenceEén-binary GGUF runner met ingebouwde UI.
11k+
C++AGPLself-hostableC++gui+2
llamafile
LLMs & InferenceEén-file LLM distributie van Mozilla.
22k+
C++Apache 2.0self-hostableC++beginner-friendly+1
Piper
Audio & VoiceSnelle, lokale neural text-to-speech.
7k+
C++ + PythonMITC++self-hostableproduction-ready+1