llama.cpp
Av ggml.ai (del av Hugging Face) / öppen källkod · github.com/ggml-org/llama.cpp
3,5 Bra
Motorn som drivit hela lokal AI-vågen: extremt optimerad C++-kod som kör språkmodeller på nästan vilken hårdvara som helst. För dig som bygger själv.
Bäst för: Utvecklare som vill ha maximal kontroll och prestanda.
Vårt betyg: 3,5 av 5
Fördelar
- Snabbast och mest hårdvaruflexibelt (CPU, GPU, Mac)
- Öppen källkod under MIT-licens, skapad av Georgi Gerganov (ggml.ai, sedan 2026 del av Hugging Face)
- Basen för Ollama, LM Studio och de flesta andra
Nackdelar
- Ren utvecklarprodukt: kompilera och konfigurera själv
- Ingen support utöver communityn
Snabbfakta
| Pris | Gratis |
|---|---|
| Härkomst | Utanför EU (ggml.ai (del av Hugging Face) / öppen källkod) |
| Kategorier | Lokal AI |
| EU-datalagring | Nej |
| GDPR-villkor (DPA) | Nej |
Källor & belägg
Uppgifter om datalagring, jurisdiktion och efterlevnad ska gå att kontrollera. Här är underlagen bakom påståendena ovan:
- ggml-org – llama.cpp på GitHub (öppen källkod under MIT, lokal LLM-inferens i C/C++ på CPU, GPU och Mac) →
- ggml.ai – Startsida (bolaget bakom ggml, grundat 2023 av Georgi Gerganov, uppköpt av amerikanska Hugging Face 2026) →