Ollama
Ollama — це дуже популярний локальний запуск LLM з відкритим кодом, який дозволяє розробникам запускати провідні моделі з відкритими вагами, як-от Llama та Gemma, повністю офлайн на локальному споживчому обладнанні. Забезпечуючи чинний локальний API-кінцевик, він став золотим стандартом для розробки застосунків ШІ з акцентом на конфіденційність.