Ollama
Ollama je velmi populární soubor s otevřeným zdrojovým kódem pro běh lokálních LLM, který umožňuje vývojářům spouštět špičkové otevřené modely jako Llama a Gemma zcela offline na lokálním spotřebitelském hardwaru. Díky poskytování čistého lokálního API bodu se stalo zlatým standardem pro rozvoj AI aplikací s důrazem na soukromí.