AnythingLLM, birçok homelab meraklısını bir vadiyle çekti: bir klasöre işaret edin, o belgeleri okuyacak ve yerel bir modelin onlarla sohbet etmesine izin verecek bir çalışma alanı alın. Gerçeklik, bazen hangi vektör deposunun yapılandırıldığını unutmayan, ayarlar paneli büyümeye devam eden ve temsilin ve günlük sürücünün bir yerleri arasında olan bir Docker konteynerine daha yakın. Sürtüşme birikmek üzere olursa, bu AnythingLLM alternatifleri “yerel modeller, belgelerim, donanımım” fikrini koruyarak ve engel olan parçaları çıkarır.
Windows, macOS ve Linux üzerinde aşağıdaki 7 uygulamayı tam bir hafta boyunca çalıştırdık. Liste, normal yazılım gibi yüklenen yerel masaüstü uygulamalarını, Ollama sunucunuzun yanında kendi kendine barındıran tarayıcı tabanlı UI’leri ve parlaklık yerine derinlik için takas yapan bir güç kullanıcısı ön ucunu içerir.
Hızlı karşılaştırma
| Uygulama | En iyi için | Kuruluş | Açık kaynak | Yerel model desteği |
|---|---|---|---|---|
| Open WebUI | Ekip ölçekli kendi kendine barındırılan sohbet | Docker | Evet (BSD-3) | Yerel Ollama, OpenAI uyumlu |
| LM Studio | Bir model seçin, sohbete tıklayın | Yerel yükleyici | Hayır (ücretsiz) | Yerleşik llama.cpp / MLX |
| Msty | Çok modelli bölünmüş görünüm | Yerel yükleyici | Hayır (ücretsiz) | Ollama, LM Studio, uzak API’ler |
| Jan | Açık kaynak LM Studio | Yerel yükleyici | Evet (AGPL) | Yerleşik llama.cpp |
| LibreChat | Her sağlayıcı ile ChatGPT klonu | Docker | Evet (MIT) | Ollama köprüsü |
| GPT4All | Hafif çevrimdışı sohbet | Yerel yükleyici | Evet (MIT) | Yerleşik |
| Text Generation WebUI | Ağırlıklar ve örnekleyicilerle oynamak | Python | Evet (AGPL) | llama.cpp, ExLlama, Transformers |
İnsanlar neden AnythingLLM’yi bırakır
Reddit ve Hacker News’teki kullanıcılar aynı pürüzlü kenarları işaret ediyor: çalışma alanları bazen bir güncellemeden sonra gömülmelerini sıfırlar, yerleşik aracı araçları uygun bir aracı çerçevesiyle karşılaştırıldığında sınırlıdır ve Docker’da çalıştırmak artı GPU geçişini yapılandırmak, tek kullanıcılı bir sohbet uygulamasının ihtiyaç duyması gerekenden daha fazla kuruluma sahiptir. Ayrı bir şikayet, telemetri varsayılanları ve bulut sürümünden gelen fiyatlandırma sinyallerinin kendi kendine barındırılan README’ye sızmasının etrafında döner. Bunların hiçbiri ölümcül değildir, ancak aşağıdaki alternatifler normal bir uygulama olarak yüklendiğinde sürtüşme birikir.
Open WebUI — Kendi kendine barındırılan ekip için en iyi
Open WebUI, AnythingLLM’nin en yakın yapısal eşleşmesidir: tarayıcı tabanlı, kendi kendine barındırılan, çok kullanıcılı, birinci sınıf Ollama entegrasyonu. RBAC, ardışık düzenler, işlev çağırma ve çok daha büyük bir eklenti topluluğunda ileriye gider. Docslar Docker Compose, Kubernetes ve bare-metal Python’u kapsar.
Nerede kısa kalır: ayarlar yüzeyi AnythingLLM’den daha geniştir ve Model Context Protocol entegrasyonu uygulamanın geri kalanından daha yenidir.
Fiyatlandırma:
- BSD-3 lisansı altında ücretsiz ve açık kaynak.
- OSS derlemesi için ücretli katman yok.
- vs AnythingLLM: karşılaştırılabilir kaynak ayak izi, daha olgun çok kullanıcılı hikaye.
AnythingLLM’den geçiş yapma: belgeler yeniden işlenmelidir. İstem koleksiyonları metin olarak kopyalanır. Vektör depolar aktarılmaz, hareket sırasında yeniden gömmeyi planlayın.
İndir: openwebui.com
Sonuç: sadece bir kişi değil, çalışma alanına birden fazla kişi dokunursa genel en güçlü alternatif.
LM Studio — Tek tıklamalı yerel sohbet için en iyi
LM Studio, Windows, macOS ve Linux için yerel bir masaüstü uygulamasıdır. llama.cpp ve MLX çalışma zamanlarını, makinenin RAM’i için doğru quant’ı gösteren bir model kataloğunu ve işe yarayan bir sohbet UI’sini gemi gönderi. Son sürümler, bu API’yi konuşan araçlar için yerel bir OpenAI uyumlu sunucu ekledi.
Nerede kısa kalır: RAG hikayesi basittir, bir PDF ile sohbet işe yarasa da, çok dokümanlı çalışma alanı stili arama yapmaz. Kapalı kaynak.
Fiyatlandırma:
- Kişisel kullanım için ücretsiz.
- Ticari kullanım, LM Studio ekibine ulaşmayı gerektirir.
AnythingLLM’den geçiş yapma: AnythingLLM’nin yerel sunucusuna vuran araçları LM Studio sunucusuna işaret edin, çalışma alanı kavramını bırakın.
İndir: lmstudio.ai
Sonuç: amaç bir bilgi tabanı inşa etmek değil yerel bir model çalıştırmak ve onunla sohbet etmek ise bunu seçin.
Msty — Modelleri yan yana karşılaştırmak için en iyi
Msty, imzası bölünmüş bölme sohbeti olan yerel bir uygulamadır: aynı istemi iki veya üç modele gönderin ve yanıtları paralel olarak okuyun. Ollama ve LM Studio aracılığıyla yerel modelleri, uzak API’leri ve belge çalışma alanları için kendi “Knowledge Stack”ini destekler.
Nerede kısa kalır: kapalı kaynak. Aura için fiyatlandırma modeli, ücretli katman, başlatmadan beri değişmiştir.
Fiyatlandırma:
- Ücretsiz katman çoğu solo iş akışını kapsar.
- Senkronizasyon, ekipler ve premium özellikler için Aura aboneliği.
AnythingLLM’den geçiş yapma: Knowledge Stack klasörleri doğrudan kabul eder. Sohbet geçmişi varsayılan olarak yerel kalır.
İndir: msty.app
Sonuç: yanıt sadece herhangi bir yerel model çalıştırmaya değil, doğru modeli seçmeye bağlı olduğunda başvurulacak uygulama.
Jan — En iyi açık kaynak LM Studio
Jan, LM Studio’nun açık kaynaklı bir proje olarak nasıl görüneceğidir: yerel masaüstü uygulaması, yerleşik llama.cpp çalışma zamanı, model hub’ı ve uzantılar için eklenti sistemi. Ekip haftalık gemi gönderi ve şimdi yerel modellerle birlikte uzak sağlayıcıları destekler.
Nerede kısa kalır: RAG bir beta özelliğidir. Eski dizüstü bilgisayarlarda, ayarlanan LM Studio derlemesinden daha ağır olabilir.
Fiyatlandırma:
- AGPL altında ücretsiz ve açık kaynak.
AnythingLLM’den geçiş yapma: modeller Jan’ın hub’ından yeniden indirilir. Belgeler beta RAG eklentisinde klasör tabanlı bağlam olarak hareket eder.
İndir: jan.ai
Sonuç: lisanslama mutlak parlaklıktan daha fazla önemli olduğunda dürüst açık kaynak seçimi.
LibreChat — Her sağlayıcı önemli ise en iyi
LibreChat, ChatGPT gibi görünür ve neredeyse her API’si olan sağlayıcıyla konuşur: OpenAI, Anthropic, Google, Groq, artı Ollama aracılığıyla yerel modeller. Çok kullanıcılı, kendi kendine barındırılan ve açıkça genişletilebilir.
Nerede kısa kalır: yerel birinci iş akışları Ollama köprüsünü gerektirir, bu da başka bir hareketli parçadır. RAG, Open WebUI’den daha gençtir.
Fiyatlandırma:
- MIT altında ücretsiz ve açık kaynak.
AnythingLLM’den geçiş yapma: model yapılandırmasını kopyalayın, Ollama’yı bağlayın, belgeleri bir LibreChat ön ayarına yükleyin.
İndir: librechat.ai
Sonuç: bir ekip zaten üç veya dört sağlayıcı ile hokkabazlık yapıyorken seçim, bir gelen kutusu istiyor.
GPT4All — Hafif çevrimdışı sohbet için en iyi
GPT4All, Nomic’ten gerektiğinde tamamen CPU’da çalışan yerel bir sohbet uygulamasıdır. Model kataloğu LM Studio’ndan daha küçüktür, ancak her model çevrimdışı kullanım için seçilir. Son derlemeler, LocalDocs, klasör tabanlı bir belge sohbet özelliği ekledi.
Nerede kısa kalır: hız CPU’ya çok bağımlıdır. Eklenti ekosistemi Jan’dan veya Open WebUI’den daha sessizdir.
Fiyatlandırma:
- MIT altında ücretsiz ve açık kaynak.
- İsteğe bağlı bir Nomic hesabı Atlas stili veri seti özelliklerini açar.
AnythingLLM’den geçiş yapma: LocalDocs klasör PDF çantasını temizledi. Aracı iş akışları aktarılmaz.
İndir: gpt4all.io
Sonuç: AnythingLLM’nin yavaş hissettiği ayrı GPU olmadan makineler için alternatif.
Text Generation WebUI — Oynamak için en iyi
Text Generation WebUI (oobabooga), güç kullanıcısı ön ucudur. Örnekleyicileri, istem biçimlerini, LoRA’ları, karakterleri ve ilgilenilen her arka uçu ortaya koymaktadır: llama.cpp, ExLlama, Transformers ve daha fazlası. Uzantılar neredeyse aylık gelir.
Nerede kısa kalır: kurulum ilk Python ortamı ve ikinci olarak bir sohbet uygulamasıdır. Tıklayıp gitmek isteyen insanlar için değil.
Fiyatlandırma:
- AGPL altında ücretsiz ve açık kaynak.
AnythingLLM’den geçiş yapma: bunu tam bir sıfırlama olarak değerlendirin. AnythingLLM ve bu uygulama için izleyici nadiren örtüşür.
İndir: github.com/oobabooga/text-generation-webui
Sonuç: ilgi çekici sorun arayüz değil model olduğunda bunu seçin.
Nasıl seçilir
Birden fazla kişi çalışma alanını dokunursa veya çalışma alanı bir sunucuda yaşıyorsa Open WebUI seçin. AnythingLLM için en yakın yapısal takas.
İyi bir model kataloğu ve Docker olmayan yerel sohbet amaçlanıyorsa LM Studio seçin.
İş akışı modeli çıktısını yan yana karşılaştırmaktan yararlanırsa Msty seçin.
Açık kaynak ve hafif kurulumlar parlaklıktan daha fazla önemli ise Jan veya GPT4All seçin.
Günlük sürücü, yanında yerel modellerle uzak sağlayıcıların dönen bir seti ise LibreChat seçin.
Mevcut çalışma alanları işe yarar ve yerleşik aracı araçları zaten yığının geri kalanıyla entegre ise AnythingLLM’de kalın. Sadece değiştirmek için değiş tirmek için bir neden yoktur.
SSS
Open WebUI AnythingLLM’den daha iyi mi?
Ekip kullanımı için, çok büyük olasılıkla evet. Open WebUI daha güçlü RBAC’a, daha olgun ardışık düzenlere ve daha büyük bir eklenti topluluğuna sahiptir. Tek kullanıcılı belge çalışma alanında, ikisi de yakın ve AnythingLLM’nin yerel RAG UI biraz daha temiz.
AnythingLLM’nin en iyi ücretsiz alternatifi nedir?
Open WebUI ve Jan en güçlü tamamen ücretsiz seçimlerdir. Open WebUI çok kullanıcılı kendi kendine barındırma için kazanır; Jan yerel masaüstü için kazanır.
AnythingLLM çalışma alanlarımı başka bir uygulamaya aktarabilir miyim?
Belgeler dosya olarak hareket eder. Vektör gömmeler, değil, her alternatif alım üzerine yeniden gömme, kendi modelini kullanarak. Sohbet geçmişi normalde Markdown veya JSON’a aktarılmalı ve hedef uygulama onu desteklediğinde yeniden aktarılmalı.
Hangi alternatif AnythingLLM’nin yaptığı aynı modelleri çalıştırır?
Yukarıdaki tüm seçimler AnythingLLM’nin yaptığı aynı GGUF ve safetensors ağırlıklarını kabul eder. Ollama ortak paydadır, Ollama’ya konuşan herhangi bir şey aynı modelleri sunabilir.
Bunlardan herhangi biri GPU olmadan çalışır mı?
GPT4All CPU-first seçimidir. LM Studio, Jan ve Open WebUI hepsi daha küçük mikro alet modelleri ile CPU’da çalışırsa ama ayrı GPU veya Apple Silicon ile oldukça daha hızlı.
