AlexsJones/llmfit
AlexsJones /
GitHub'da aç ↗llmfit
☆ 38,7k · Rust · Ayrı uygulama
Açıklama
Bilgisayarında hangi modelin çalışacağını tek komutla söyler.
Kurulum
Uygulamayı kur
Bilgisayarına veya sunucuna ayrı bir program olarak kurulur. Prompt’u kodlama ajanına yapıştır.
Şu uygulamayı kurmak istiyorum: https://github.com/AlexsJones/llmfit README'sini oku; bu bilgisayara mı (masaüstü uygulaması ya da komut satırı aracı) yoksa bir sunucuya mı (Docker ile çalışan servis) kurulduğunu söyle. İşletim sistemimde çalışıp çalışmadığını ve gereksinimlerini (ekran kartı, Docker, API anahtarı, disk alanı) kontrol et. Kurulum adımlarını göster; onaylarsam kur ve nasıl kullanılacağını kısaca göster.
Benzer repolar
Alt kategori: Yerel model ve yönlendirmeollama /ollama
ollamaollama
Açık modelleri (Gemma, Qwen, DeepSeek...) kendi bilgisayarında çalıştırır ve REST API sunar; ollama launch ile Claude Code, Codex, OpenCode ve Hermes gibi ajanları yerel modelle başlatır.
open-webui /open-webui
open-webuiopen-webui
Kendi sunucunda çalışan ChatGPT benzeri AI sohbet arayüzü: Ollama'daki yerel modellere ve OpenAI uyumlu API'lere bağlanır; belgeyle sohbet (RAG), web araması, eklentiler, kullanıcı yönetimi, LDAP ve SSO desteği var.
ggml-org /llama.cpp
llama.cppggml-org
Yerel LLM çalıştırma motoru: GGUF modellerini CPU'da ve çeşitli GPU'larda çalıştırır, OpenAI uyumlu sunucu açar; Jan'ın altında da bu motor çalışır.