XDA-Developers bu ay sessizce endişelendirici bir başlıkla bir makale yayınladı: ChatGPT şimdi sizin hakkındaki anılarını yeniden yazıyor ve tam olarak ne saklamak istediğini kontrol etmiyorsunuz. Özellik dostça bir çerçeve taşıyor. Bellek sohbetler arasında kalıcıdır, böylece model “sizi daha iyi tanır”. Para hattının öteki tarafı, istemlerinizin, görüşlerinizin ve yazı alışkanlıklarınızın belirsiz bir profilinin sahip olmadığınız bir sunucuda yaşıyor olması ve OpenAI ne zaman ve nasıl yeniden şekillendireceğine karar vermesidir. Bir sohbet botunu özel bir not defteri gibi ele alan herkes için, kendi dizüstü bilgisayarınızda ne çalıştığına bakmak zamanı. Masaüstünde özel AI sohbeti için en iyi uygulamaları test ettik, isteklerin disk üzerinde kaldığı, belleğin silebileceğiniz bir klasör olduğu ve bunu istemediğiniz sürece hiçbir telemetri makineden ayrılmayan uygulamalar.
Özel bir AI sohbet uygulamasında ne aranması gerekir
Özel bu kategoride ağır bir kelimedir, bu nedenle kriterler spesifik olmalıdır:
- Varsayılan telemetri. Dürüst uygulamalar ya telemetri kapalı olarak gelir ya da ilk başlatmada anahtarı gösterir. Ayarlar menüsüne gömülü bir “anonim kullanım topluyoruz” kapalı ile aynı değildir.
- Cihaz üzerinde çıkarım. Her token, CPU veya GPU’nuzda oluşturulmalıdır. Model için hiçbir bulut gidiş-dönüşü yok, uygulama isteğe bağlı uzak bir API sunsa bile.
- Disk üzerinde sohbet günlükleri. Konuşmalar Finder veya Explorer’da açabileceğiniz bir klasörde yaşamalıdır. Bulut senkronizasyonu varsayılan olarak kapalıysa ve format okunabilir bir şeyse iyidir.
- Kontrol ettiğiniz kalıcı bellek. Uygulama sohbetler arasında sizin hakkında bir profil oluşturursa, bunu inceleyebilmeli, düzenleyebilmeli ve silebilmelisiniz.
- Açık kaynak ağırlığı. Denetlenebilirlik sessiz davranış değişikliklerine karşı tek gerçek savunmadır. Kapalı kaynak uygulamalar otomatik olarak güvenilmez değildir, ancak ekstra inceleme hak ederler.
Hızlı karşılaştırma
| Uygulama | Lisans | Varsayılan telemetri | OpenAI-API sunucusu? | Daha iyi için |
|---|---|---|---|---|
| Jan | MIT (açık kaynak) | Kapalı | Evet, localhost:1337 | Gizliliği önceliklendiren günlük sürücü |
| GPT4All | MIT (açık kaynak) | Yalnızca opt-in | Hayır (yalnızca sohbet istemcisi) | Toplam başlayanlar, belge Soru-Cevap |
| LM Studio | Kapalı kaynak | Açık (kapatmak için bir anahtar) | Evet, yerel sunucu | Parlak GUI ve model keşfi |
| Ollama | MIT (açık kaynak) | Hiçbiri | Evet, localhost:11434 | Arka uç isteyenler geliştiriciler |
| AnythingLLM | MIT (açık kaynak) | Kapalı | Evet, gömülü | Belgeler ve aracılarla çalışma alanları |
| Msty | Kapalı kaynak (ücretsiz katman) | Anonim, değiştirilebilir | Evet (Ollama aracılığıyla) | Yerel vs bulut sohbetleri yan yana |
| Llamafile | Apache 2.0 (açık kaynak) | Hiçbiri | Evet, gömülü | Taşınabilir, USB çubuğu çevrimdışı kullanım |
2026'de Masaüstü için 7 En İyi Özel AI Sohbet Uygulaması
1. Jan — Gizliliği Önceliklendiren Günlük Sürücü İçin En İyi
Jan, gizliliğin bir pazarlama hattı değil, belirtilen bir ürün ilkesi olduğu nadir bir uygulamadır. MIT lisansı masaüstü istemcisini ve sunucuyu kapsar, telemetri varsayılan olarak kapalıdır ve ayarlar paneli net bir dilde hangi anahtarların ağa dokunduğunu söyler. OpenAI uyumlu bir API, 1337 bağlantı noktasında yerel olarak çalışır, bu nedenle OpenAI konuşan herhangi bir araç, bir URL değişikliği ile Jan ile konuşabilir. İsteğe bağlı bulut geri dönüşleri var, ancak bunları kendiniz bağlarsınız.
Geriye kaydığı yer: Performans aynı donanımda LM Studio’nun biraz gerisinde kalır ve model kataloğu, Hugging Face’e doğrudan göz atarken elde ettiğiniz şeyden daha küçüktür. Aracılar ve tool-use gibi daha yeni özellikler kapalı kaynak rekabetinin arkasında kalır.
Fiyat: Ücretsiz (açık kaynak, ücretli katman yok)
Platformlar: Windows, macOS, Linux
İndir: jan.ai
Sonuç: “Özel” katı bir gerekliliktir ve yaptığı her ağ çağrısı hakkında dürüst olan bir uygulama istiyorsanız Jan’ı seçin.
2. GPT4All — Yeni Başlayanlar ve Çevrimdışı Belge Soru-Cevap İçin En İyi
GPT4All bu listedeki en kolay giriş noktasıdır. Bir yükleyici, terminal yok, yalnızca telemetri opt-in ve ayrık GPU olmayan dizüstü bilgisayarlar için ayarlanmış bir küratörlük modeli listesi. LocalDocs özelliği disk üzerinde bir klasöre işaret eder ve size olağan tüm sıhhi tesisatlar olmadan özel bir RAG kurulumu verir. Sohbetler, yedekleyebileceğiniz veya silebileceğiniz bir SQLite dosyasında yaşar.
Geriye kaydığı yer: İleri düzey kullanıcı özellikleri (özel örnekleyiciler, ince taneli quant denetimi, OpenAI uyumlu sunucu) odak değildir. Kullanıcı arayüzü cilalı değil işlevseldir.
Fiyat: Ücretsiz (açık kaynak, ücretli katman yok)
Platformlar: Windows, macOS, Linux
İndir: nomic.ai/gpt4all
Sonuç: Teknik olmayan bir arkadaşa verebileceğiniz özel bir sohbet botu istiyorsanız GPT4All’ı seçin, yerleşik çevrimdışı belge araması ile.
3. LM Studio — Model Keşfi ve GUI Parlaklığı İçin En İyi
LM Studio, kategorideki en cilalı yerli uygulamadır. Hugging Face entegrasyonu quant seviyesine göre filtreler ve bir modelin gerçekten VRAM’ınıza sığıp sığmadığını gösterir, MLX Apple Silicon’da birinci sınıf destek ile çalışır ve son MCP eklemeleri yerel modellerin araç çağırmasına izin verir. Yerel sunucu modu OpenAI uyumlu bir bitiş noktasını ortaya çıkarır. Sorun, uygulamanın kapalı kaynak olması ve anonim analitiklerin varsayılan olarak açık olmasıdır. Ayarlarındaki bir anahtar bunu kapatır.
Geriye kaldığı yer: Kapalı kaynak artı varsayılan açık analitik bariz. Lisans kişisel kullanım için ücretsiz izin verir, ancak iş bağlamları için ücretli bir İş planı gerektirir, bu da bir şirket dizüstü bilgisayarına koymadan önce kontrol etmeye değer.
Fiyat: Kişisel kullanım için ücretsiz. İşletme için İş planı.
Platformlar: Windows, macOS, Linux
İndir: lmstudio.ai
Sonuç: Yerel modelleri bulmak, boyutlandırmak ve çalıştırmak için en iyi GUI istiyorsanız ve ilk başlatmada bir anahtarı çevirmeye istekliyseniz LM Studio’yu seçin.
4. Ollama — Özel Arka Uç İsteyenler Geliştiriciler İçin En İyi
Ollama, bu alanda varsayılan arka uca en yakın olandır. Bir yükleyici bir CLI ve arka plan hizmetini bırakır, sonra ollama run llama3.2 nicelleştirilmiş bir modeli çeker ve sohbet başlatır. Daemon, localhost:11434’de OpenAI uyumlu bir REST API’yi ortaya çıkarır, lisans MIT’dir ve hiçbir şey için télémétrie devre dışı bırakılacak şey yoktur, çünkü hiçbiri başlamıyor. Sohbet geçmişi istemcinizin diske kaydettirdiği şeydir.
Geriye kaydığı yer: Birinci taraf UI esasen bir terminaldir. Ollama bir arka uçtur, sohbet istemcisi değil, bu nedenle bunu ayrı bir ön uç ile eşleştirirsiniz (Msty ve Open WebUI ikisi de iyi çalışır). Özel istemler Modelfiles’de yaşar, bu güçlü ancak bir adım ekler.
Fiyat: Ücretsiz (açık kaynak, ücretli katman yok)
Platformlar: Windows, macOS, Linux
İndir: ollama.com
Sonuç: Özel bir sunucusu istiyorsanız aynı zamanda sohbet edebileceğiniz ve kendi kullanıcı arayüzünüzü getirmeye mutlu olacaksınız Ollama’yı seçin.
5. AnythingLLM — Belgeler ve Aracılarla Çalışma Alanları İçin En İyi
AnythingLLM sohbeti tek bir pencere yerine bir çalışma alanı olarak görür. Her çalışma alanının kendi modeli, kendi belgeleri, kendi aracıları ve kendi izinleri vardır. Her şey varsayılan olarak yerel olarak çalışır veya sunucuyu kendi kendine barındırırsınız ve tarayıcıdan erişirsiniz. RAG yerleşikdir. Aracılar araçları çağırabilir, sayfaları kazıyabilir ve çalışma alanı sınırı içinde komut dosyaları çalıştırabilir.
Geriye kaydığı yer: Düz bir sohbet istemcisinden daha fazla uygulamadır. Çoklu kullanıcı ve ajan özellikleri güçlüdür ancak kasual bir kullanıcının ihtiyaç duymadığı kavramları tanıtır (çalışma alanları, iş parçacıkları, embeddings).
Fiyat: Ücretsiz (açık kaynak). Takımlar için isteğe bağlı ücretli bulut sürümü.
Platformlar: Windows, macOS, Linux
İndir: anythingllm.com
Sonuç: Belgeleri, aracıları ve sohbetleri tek uzun bir konuşma yerine özel proje boşluklarına bağlamak istiyorsanız AnythingLLM’yi seçin.
6. Msty — Yerel ve Bulut Modellerini Yan Yana Karşılaştırmak İçin En İyi
Msty, yerel bir Ollama örneği ve uzak bir API ile aynı anda konuşabilen, gerçek bir bölünmüş panel arayüzü olan yerli bir sohbet istemcisidir. İsteği bir kez gönderin, iki yanıt görün, hangi modelin işi kazandığına karar verin. Bilgi yığınları, alma için klasörleri veya URL’leri eklemenize izin verir ve uygulama yerel ve uzak konuşmaları açıkça ayrı tutar, böylece yanlışlıkla bulut tarafına bir istemi sızıttırmazsınız.
Geriye kaydığı yer: Uygulama kapalı kaynaktır. Anonim analitik değiştirilebilir ancak varsayılan olarak açıktır. Bazı güç özellikleri ücretli Aurum planının arkasında oturur.
Fiyat: Ücretsiz katman (özellik açısından zengin). Gelişmiş özellikler için Aurum planı.
Platformlar: Windows, macOS, Linux
İndir: msty.app
Sonuç: Yerel bir modeli bulut modeliyle karşılaştırmanın temiz bir yolunu istiyorsanız ve iki uygulamayı takla atmadan istiyorsanız Msty’yi seçin.
7. Llamafile — Taşınabilir, USB Çubuğu Çevrimdışı Kullanım İçin En İyi
Llamafile Mozilla’nın zeki numarasıdır: bir model ve llama.cpp çalışma zamanı aynı dosyadan Windows, macOS ve Linux’te çalışan tek bir yürütülebilir dosyaya paketlenmiştir. Bir ikiliyi indirin, çift tıklayın ve yerel bir sunucuya işaret eden tarayıcınızda bir sohbet arayüzü açılır. Bir USB çubuğuna bırakın ve özel bir AI sohbeti sizinle seyahat eder. Yükleyici yok, Python yok, telemetri yok.
Geriye kaydığı yer: Model tarayıcısı yok, modelleri disk üzerindeki dosyalar olarak yönetirsiniz. Güncellemeler yürütülebilir dosyayı değiştirmek anlamına gelir. Bazı antivirüs araçları çapraz platform ikili numarasını işaretler, bu GitHub sorunlarında tekrar eden bir şikayettir.
Fiyat: Ücretsiz (açık kaynak, ücretli katman yok)
Platformlar: Windows, macOS, Linux
İndir: github.com/Mozilla-Ocho/llamafile
Sonuç: Özel bir sohbet botunu makineler arasında taşımanın en az merasimlı yolunu istiyorsanız Llamafile’ı seçin.
Doğru Olanı Nasıl Seçersiniz
Gizlilik ana gerekliliktir ve evde telefon açmayan bir uygulama istiyorsanız Jan’ı kurun.
Teknik olmayan bir arkadaş veya aile üyesi için kuruyorsanız GPT4All kurun ve LocalDocs özelliğini belgeleri klasörlerine işaret edin.
Modelleri bulup çalıştırmak için en iyi GUI istiyorsanız ve analitik anahtarını çevirmeye rahat oluyorsanız LM Studio kurun.
Hiçbir editör, not defteri veya komut dosyası konuşabileceği özel bir arka uç istiyorsanız Ollama kurun ve beğendiğiniz bir sohbet istemcisi ile eşleştirin.
Çalışmanız kendi belgeleri ve araçları olan projelerine bölünüyorsa AnythingLLM kurun ve çalışma alanlarını kullanın.
Aktif olarak yerel ve bulut modellerini karşılaştırıyorsanız ve aynı pencerede görmek istiyorsanız Msty kurun.
USB çubuğunda özel bir sohbet botu istiyorsanız istediğiniz model için Llamafile’i indirin ve kopyalayın.
SSS
Yerel AI sohbet uygulamaları gerçekten ChatGPT’den daha özeldir mi?
Evet, telemetri olmayan birini seçip cihaz üzerinde çıkarım çalıştırıyorsanız. İstekler hiçbir zaman makinenizi terk etmez, merkezi sunucu sizin hakkınızda bir profil oluşturmuyorsunuz ve sohbet günlükleri silebileceğiniz disk dosyalarıdır. Dürüst uyarı: kapalı kaynak bir uygulama yine de yanlış davranabilir, bu yüzden açık kaynak seçenekleri (Jan, GPT4All, Ollama, AnythingLLM, Llamafile) kapalı kaynaktan daha az uzun vadeli risk taşırlar (LM Studio, Msty), her ikisi de telemetri kapalı olsa bile.
Yerel bir AI sohbeti çalıştırmak için güçlü bir GPU’ya ihtiyacım var mı?
Hayır. Nicelleştirilmiş 3B ve 7B modeller entegre grafiklerde veya saf CPU’da çalışır, yavaş ama kullanışlıdır. GPT4All ve Llamafile’ın ikisi de düşük RAM makineleri için ayarlanmış küçük modelleri gönderir. 16 GB birleştirilmiş belleğe sahip Apple Silicon Mac’iniz veya 16 GB RAM’e sahip yakın tarihli PC’iniz varsa, yeterliniz var.
Yerel bir AI sohbet uygulamasının benim hakkımdaki belleğini silebilir miyim?
Evet. Bu listedeki her uygulama sohbet geçmişini disk üzerinde bir klasörde depolar. Klasörü silin ve bir sonraki açışınızda model kimin olduğunu bilmez. Bu, belleğin sahip olmadığınız bir sunucuda yaşadığı barındırılan hizmetler üzerinde yapısal bir avantajdır.
Yerel AI sohbet uygulamaları günlük kullanım için ChatGPT’nin yerine geçebilir mi?
Çoğu istem için evet. Nicelleştirilmiş 7B ve 14B modeller kod incelemesi, özetleme, taslak ve rutin yazma için yeterince iyidir. Uzun belgelerde sınır düzeyinde akıl yürütme için boşluk bir yıl öncekinden daha dar ancak yine de gerçektir. Ortak bir model, işin özel %80’i için yerel bir model ve geri kalanı için bulut API’sini kullanmaktır, bu tam olarak Msty için yapılan kurulumudur.
Ses ve görüntü üretimi ne olacak?
Bu listedeki uygulamalar metin önceliklidir. LM Studio, Jan ve AnythingLLM’nin hepsi görüş modellerine destek eklemeyi artırıyor, bu nedenle bir görüntü düşürebilir ve bunun hakkında sorular sorabilirsiniz. Ses girişi ve çıkışı genellikle sohbet istemcisine bağlı ayrı yerel bir araç tarafından işlenir (konuşmadan metne Whisper, metinden konuşmaya Piper). Bunun hiçbiri bulut gerektirmez.
