XDA kısa süre önce bir test yaptı: Antigravity ve yerel bir LLM kurulumuna aynı ofis görevlerini verdi ve hangisinin gerçekten zaten sahip olduğunuz dosyalara saygı gösterdiğini gördü. Sadece biri yaptı. Agentic AI gerçekten yararlıdır, ancak “yardımcı” ve “iki hafta yazarak geçirdiğiniz dosyanın üzerine yazacak” izin katmanının ince bir şekilde ayrılmıştır.
AI ajanlarının belgeleriniz üzerinde yerel olarak, kendi koşullarınız altında çalışmasını ve sessizce üzerine yazmadan durmasını istiyorsanız, bu ay test ettiğimiz yedi masaüstünde dosya-güvenli AI ajanları için en iyi uygulamalar burada.
“Dosya-güvenli” ne anlama geliyor
Dosya-güvenli’yi en az üç tanesini içerecek şekilde tanımlıyoruz:
- Yerel model yürütme. Dosya içeriğiniz makineyi terk etmiyor
- Açık araç izinleri. Ajan yazmadan önce sorar veya yalnızca korumalı alan bir çalışma alanına yazar
- Salt okunur modu. Oluşturma olmadan alımı zorunlu kılabilirsiniz
- Sürüm oluşturma. Araç neleri değiştirdiğini izler ve geri almaya izin verir
- Denetim izi. Her araç çağrısının ve dosya erişiminin günlüğü
- Dosya içeriğinin bulut senkronizasyonu yok. Metadata ve istemler yerel kalır
Aşağıdaki yedi uygulama her biri en az üçe ulaşır. İki da altısına ulaşır.
Hızlı karşılaştırma
| Uygulama | En iyi | Ücretsiz plan | Yerel modeller | Dosyalarınıza yazıyor |
|---|---|---|---|---|
| AnythingLLM | Yerel-odaklı RAG sohbeti | Ücretsiz | Evet | İsteğe bağlı, varsayılan olarak korumalı alan |
| LibreChat | Yerel destek ile çok sağlayıcı sohbet | Ücretsiz | Evet | Açık yapılandırma olmadan yazılmıyor |
| Msty | Ekleri ile basit çevrimdışı sohbet | Ücretsiz katman, ücretli Aurum $19.99 yaşbol | Evet | Yazılmıyor |
| Continue (VS Code) | VS Code içindeki kodlama ajanı | Ücretsiz | Evet | Evet, diff önizlemesi ile |
| PrivateGPT | Kendi kendine barındırılan belge Q&A | Ücretsiz | Evet | Yazılmıyor, salt okunur |
| GPT4All | Yerel belgeler ile masaüstü sohbet | Ücretsiz | Evet | Yazılmıyor |
| LM Studio | Eklenti korumalı alanı ile model çalıştırıcı | Kişisel kullanım için ücretsiz, ticari için ücretli | Evet | Yalnızca eklentiler aracılığıyla |
| Ollama + OpenWebUI | Sunucu + web ön ucu | Ücretsiz | Evet | Yalnızca yapılandırılan araçlar aracılığıyla |
1. AnythingLLM – En iyi tüm etrafını yerel-odaklı kurulum
AnythingLLM klasörleri, PDF’leri ve URL’leri alma ile zenginleştirilmiş sohbete dönüştüren bir masaüstü ve kendi kendine barındırılan yığındır. Yerel model desteği (Ollama, LM Studio veya paketlenmiş bir çalışma zamanı aracılığıyla) dosyaların makinenizi asla terk etmediği anlamına gelir. Çalışma alanları korumalı alandır; ajan modunu etkinleştirirseniz, araçlar çalışma alanı başına kabul etme seçeneğidir.
Nerede kısa kalır: Ajan modu RAG modundan daha yenidir; daha hızlı yinelemeyi bekleyin. Bazı kurumsal özellikler (SSO, MDM) yalnızca bulutta mevcuttur.
Fiyatlandırma:
- Masaüstü ve kendi kendine barındırılan ücretsiz
- Çalışma alanı başına $50/ay’dan başlayan bulut katmanı
Platformlar: Windows, macOS, Linux, Docker
İndir: AnythingLLM | GitHub
Sonuç: “Klasörlerim üzerinde sohbet et, hiçbir şeyi düzenleme” kurulumu için en iyi seçim, güvendiğinizde ajana promosyon seçeneği ile.
2. LibreChat – Yerel kalabilen en iyi çok sağlayıcı sohbet
LibreChat açık kaynaklı ChatGPT alternatifi ön uç. OpenAI, Anthropic, Google, Ollama ve OpenAI uyumlu herhangi bir uç noktayı destekler. Yalnızca yerel modellerle yapılandırın ve dosya erişimi yalnızca açıkça monte ettiğiniz bir dizine gider.
Nerede kısa kalır: Kurulum Docker-önce. Teknik olmayan kullanıcılar ilk yapılandırma konusunda yardıma ihtiyaç duyacaktır.
Fiyatlandırma:
- Ücretsiz, MIT lisansı
- Ücretli katman yok
Platformlar: Windows, macOS, Linux’ta Docker
İndir: LibreChat belgeleri | GitHub
Sonuç: Katı araç kontrolü ile birçok sağlayıcı için bir UI istiyorsanız en iyi seçim.
3. Msty – En iyi cilalı çevrimdışı sohbet
Msty çevrimdışı model çalıştırmaya odaklanan ve gerçekten cilalı bir UI’ye sahip bir masaüstü uygulamasıdır. Split-sohbet iki model yanıtını yan yana karşılaştırmanıza olanak tanır. Dosya ekleri kalıcı düzenlemeler yerine sohbette bağlam haline gelir.
Nerede kısa kalır: Ekler bir kereliktir; AnythingLLM gibi uzun vadeli proje çalışma alanı yok. Paketlenmiş model kataloğu önyargılı.
Fiyatlandırma:
- Ücretsiz katman: tam yerel model kullanımı
- Aurum $19.99 bulut senkronizasyonu, split-sohbet pro özellikleri için yaşbol
Platformlar: Windows, macOS, Linux
İndir: Msty
Sonuç: İzin olmadan dosyalarınıza asla dokunmayan cilalı günlük sürücü sohbeti için en iyi seçim.
4. Continue – VS Code içindeki en iyi kodlama ajanı
Continue VS Code ve JetBrains IDE’leri içinde yaşayan açık kaynaklı kodlama ajanıdır. Önerilen her düzenleme diff önizlemesi olarak görünür; kabul edene kadar disk üzerine hiçbir şey iniş yapmaz. Ollama veya LM Studio aracılığıyla yerel model desteği birinci sınıftır.
Nerede kısa kalır: Bağımsız uygulama yok; bir IDE’de olmanız gerekir. Bazı deneysel ajan modları hala UI gösterebilecekten daha hızlı dosya sistemine dokunur; modele güvenene kadar otonom modu kapalı tutun.
Fiyatlandırma:
- Ücretsiz, Apache-2 lisansı
- Takımlar için Enterprise Hub
Platformlar: VS Code, JetBrains IDE (Windows, macOS, Linux)
Sonuç: Önemsediğiniz “dosyalar” kod ise en iyi seçim.
5. PrivateGPT – En iyi salt okunur belge Q&A
PrivateGPT varsayılan davranışı belge koleksiyonundan soruları yanıtlamak olan kendi kendine barındırılan bir yığındır. Bir klasörü yutun, soru sorun, kaynak sayfalarına alıntı alın. Ajan modu yok; hiçbir düzenleme yok.
Nerede kısa kalır: Ticari araçlardan daha yavaş yineleme. Web UI işlevsel, flaş değil.
Fiyatlandırma:
- Ücretsiz, Apache-2 lisansı
- PrivateGPT Zylon ticari kurumsal çatal
Platformlar: Windows, macOS, Linux’ta Docker
İndir: PrivateGPT | GitHub
Sonuç: AI’nin yapmasını istediğiniz tek şey okumak olduğunda en iyi seçim.
6. GPT4All – Yerel belgeler için en iyi platformlar arası masaüstü
GPT4All yerel modeller çalıştırmak ve “belgeler ile sohbet” özelliği ile Nomic’in platformlar arası masaüstü uygulamasıdır. Bir klasöre işaret edin, bir gömme modeli seçin ve soru sorun. Yalnızca okuyor; değiştirmeyecek.
Nerede kısa kalır: Model kataloğu LM Studio veya Ollama’dan daha küçüktür. Araç ajan yok.
Fiyatlandırma:
- Ücretsiz, MIT lisansı
- Bulut gömme için Nomic Atlas ayrı bir üründür
Platformlar: Windows, macOS, Linux
Sonuç: Sunucu kurulumu olmadan basit “yerel olarak çalıştır, belgeleri sohbet et” kurulumu için en iyi seçim.
7. LM Studio – Eklenti korumalı alanı ile en iyi model çalıştırıcı
LM Studio yerleşik sunucu, Hugging Face model kataloğu ve büyüyen eklenti sistemi ile yerel LLM çalıştırmak için gitmelidir. Eklentiler, LM Studio dosyalarına dokunmanın tek yoludur ve her eklenti belirli dizinler için kapsamlı olabilir.
Nerede kısa kalır: Kişisel kullanım ücretsizdir; üretim veya ticari dağıtımlar artık ücretli bir plan gerektirir. Açık kaynak değil.
Fiyatlandırma:
- Kişisel kullanım için ücretsiz
- Takım / Ticari katman isteği üzerine (aylık faturalandırılır)
Platformlar: Windows, macOS, Linux
İndir: LM Studio
Sonuç: Bu listedeki diğer uygulamalar için model arka uç olarak en iyi seçim.
8. Ollama + OpenWebUI – En iyi son kendi kendine barındırılan yığın
Ollama bu makaledeki diğer uygulamaların çoğunun işaret edebileceği yerel model sunucusudur. OpenWebUI (açık kaynaklı web ön uç) ile eşleştirildiğinde, LAN’ınızı asla terk etmeyen kendi kendine barındırılan ChatGPT haline gelir. Araç izinleri kullanıcı başına yapılandırılır.
Nerede kısa kalır: Bir yerine iki hareketli parça (Ollama + OpenWebUI). Küçük bir yerel sunucu çalıştırmayı sevmenizi gerektirir.
Fiyatlandırma:
- Her ikisi de ücretsiz ve açık kaynaktır
- Ollama MIT, OpenWebUI BSD esinlenmiş özel lisans
Platformlar: Windows, macOS, Linux (Ollama); OpenWebUI için Docker
İndir: Ollama | OpenWebUI | OpenWebUI GitHub
Sonuç: Tüm hane için kendi kendine barındırılan ChatGPT tarzı UI istiyorsanız en iyi seçim.
Doğru olanı seçme
- Dosyaları okuyan ancak asla düzenlemeyen cilalı günlük sürücü sohbeti istiyorsanız: Msty
- İsteğe bağlı ajan ile tam retrieval-augmented çalışma alanı istiyorsanız: AnythingLLM
- Katı araç kontrolü ile birçok sağlayıcı için bir UI istiyorsanız: LibreChat
- Dosyalarınız kaynak kod ise: VS Code’da Devam Edin
- Yalnızca belge Q&A istiyorsanız: PrivateGPT veya GPT4All
- Ev için kendi kendine barındırılan ChatGPT istiyorsanız: Ollama + OpenWebUI
- Diğer araçların işaret ettiği model çalıştırıcıya ihtiyacınız varsa: LM Studio
Sıkça Sorulan Sorular
AI’nin dosyalarıma dokunmasına izin vermenin en güvenli yolu nedir? Açık “yazma öncesi diff önizlemesi” davranışı olan bir araç seçin ve yalnızca bir kaç seans için sohbet modunu kullandıktan sonra ajan modunu etkinleştirin. Continue (kod için), AnythingLLM (belgeler için) ve OpenWebUI’nin Araçlar sistemi hepsi bu modeli destekler.
Bu uygulamalardan herhangi biri dosyalarımı buluta yüklüyor mu? Varsayılan olarak değil. AnythingLLM, LibreChat, Msty, Continue, PrivateGPT, GPT4All, LM Studio ve Ollama hepsi yerel dosya işleme için varsayılandır. Bazıları isteğe bağlı bulut senkronizasyonu sunmaktadır; etkinleştirmeden önce ayarları okuyun.
Hangi yerel modeli çalıştırmalıyım? Genel sohbet ve akıl yürütme için Llama 3.3, Qwen 3 serisi ve Mistral Small 3 serisi hepsi güçlü başlangıç noktalarıdır. Kod için Qwen3-Coder-Plus veya DeepSeek Coder V3. Model boyutunu RAM’iniz ile eşleştirin (8 GB boş RAM bir 7B parametreli Q4 modeli işler).
GPU’ya ihtiyacım var mı? Apple Silicon Mac veya 8 GB+ VRAM’li ayrık NVIDIA GPU etkileşimli hız için büyük fark yaratır. Yalnızca CPU daha küçük modeller için çalışır ancak daha yavaştır. LM Studio ve Ollama her ikisi de otomatik olarak en iyi arka ucu algılar.
Bu dosya yüklemesi ile ChatGPT’den nasıl farklı? ChatGPT dosyayı OpenAI sunucularına gönderir. Yukarıdaki uygulamalar yerel olarak çıkarım çalıştırır, bu nedenle dosya içeriği asla makinenizi terk etmez. Bu tam olarak mesele.
