Ollama
Ollama là một công cụ chạy LLM cục bộ mã nguồn mở rất phổ biến, cho phép các nhà phát triển chạy các mô hình mã nguồn mở hàng đầu như Llama và Gemma hoàn toàn ngoại tuyến trên phần cứng tiêu dùng cục bộ. Bằng cách cung cấp một điểm cuối API cục bộ sạch sẽ, nó đã trở thành tiêu chuẩn vàng cho việc phát triển ứng dụng AI ưu tiên quyền riêng tư.