XDA’dan bir yazar bu ay yerel bir LLM’yi Claude ile günlük kodlama çalışması için eşleştirme hakkında sayıları hesapladı ve AI abonelik faturasında yarı yarıya azalma bildirdi. Bu hikaye, AI’ı yoğun bir şekilde kullanan herkese sessizce yeni norm olmuştur. Çoğu istem sınır modeline ihtiyaç duymaz. Otomatik tamamlama, hızlı refactorlar ve özetler yerel 7B veya 8B tarafından iyi şekilde işlenir. Masaüstünde hibrit yerel ve bulut LLM’ler için en iyi uygulamalar, kolay soruları makinenize ve zor olanları Claude, GPT veya Gemini’ye yönlendirmenizi sağlayan, iki sohbet penceresini bir araya getirmek zorunda kalmadan yapanları sağlar.
macOS, Windows ve Linux’ta sekiz uygulamayı test ettik. Değerlendirme kriterleri, uygulamanın yerel ve bulut arasında ne kadar kolay geçiş yaptığı, otomatik olarak veya sadece istek üzerine yönlendirebilip yönlendiremediği ve yerel-ilk yol ağ kapandığında kullanılabilir kalmaya kalmaya kalmaya kalamay kalabilecektir.
Hibrit LLM uygulamasında ne arayacağınız
- Bir arayüzde birden fazla sağlayıcı. Ollama, LM Studio, OpenAI, Anthropic ve OpenRouter aynı sohbette.
- Manuel model anahtarı. Sohbet sırasında yerelden buluta geçmek için bir tuşa veya açılır menüye basın.
- Otomatik yönlendirme. Kısa istekleri yerel olarak gönderin, uzun veya ağır kodlamaları kurallara dayalı buluta gönderin.
- Yerel-ilk geri dönüş. Çevrimdışı çalışır. Bulut sağlayıcısı isteğe bağlıdır.
- API anahtarı gizliliği. Anahtarlar makinenizde kalır, sağlayıcı ile senkronize edilmez.
- Maliyet takibi. Oturum başına model başına harcamaları gösterir, böylece yönlendirme geri dönüşünü görebilirsiniz.
Hızlı karşılaştırma
| Uygulama | En iyi için | Platformlar | Ücretsiz plan | Ücretli katman | Derecelendirme |
|---|---|---|---|---|---|
| Continue | Yerel+bulut yönlendirmeli editör tarafı AI | VS Code, JetBrains | Tamamen ücretsiz | Hiçbiri | 4.8 |
| Zed | Tuşa bastığında model seçimi ile yerel editör | macOS, Linux, Windows preview | Tamamen ücretsiz | Zed Pro $10/ay’dan | 4.8 |
| Aider | Terminal çift programcı, model-agnostik | Windows, macOS, Linux | Tamamen ücretsiz | Hiçbiri | 4.9 |
| Cursor | Yönlendirme ve ajanlar ile VS Code çatalı | Windows, macOS, Linux | Ücretsiz katman | Pro $20/ay’dan | 4.7 |
| LibreChat | Herhangi bir arka uç ile kendi kendine barındırılan ChatGPT | Windows, macOS, Linux, Docker | Tamamen ücretsiz | Hiçbiri | 4.7 |
| Big-AGI | Yan yana model değişimi ile web sohbeti | Web / kendi kendine barındırılan | Tamamen ücretsiz | Hiçbiri | 4.6 |
| LiteLLM | Her sağlayıcıyı birleştiren proxy katmanı | Any (Python + Docker) | Tamamen ücretsiz | Kurumsal fiyatlandırma | 4.7 |
| Msty | Bir pencerede yerel ve bulut ile masaüstü sohbet | Windows, macOS, Linux | Tamamen ücretsiz | Aurum $99 ömür boyu | 4.7 |
Uygulamalar
1. Hibrit LLM’ler için Devam Et — En İyi Editör Tarafı Yönlendirme
Continue, VS Code ve JetBrains uzantısı açık kaynağı, kodunuzun yanına bir sohbet, otomatik tamamlama ve düzenleme asistanı koyar, erişiminiz olan tüm modelleri listeleyen bir config dosyası ile. Yerel (Ollama, LM Studio, llama.cpp) ve bulut (OpenAI, Anthropic, Groq, OpenRouter) aynı açılır menüde bulunur. Otomatik tamamlama hızlı yerel bir modele işaret eder; büyük refactorlar Claude Sonnet’e gider.
Eksik olduğu yer: Config JSON’dur, UI değildir. Yeni kullanıcılar bunu düzenlemede birkaç dakika harcarlar.
Fiyatlandırma:
- Ücretsiz: Tamamen ücretsiz, Apache 2.0.
- Ücretli: Hiçbiri.
Platformlar: Windows, macOS, Linux (VS Code ve JetBrains uzantısı).
İndir: continue.dev · github.com/continuedev/continue
Sonuç: VS Code veya JetBrains IDE içinde hibrit bir kurulum için varsayılan seçim.
2. Hibrit LLM’ler için Zed — Tuşa bastığında Model Seçimi ile En İyi Yerel Editör
Zed, Rust tabanlı hızlı editör AI ile yerleştirilmiştir. Her AI eylem kullanımda olan modeli gösterir ve anında geçiş yapmanıza izin verir. OpenAI, Anthropic, Google, Ollama ve OpenRouter’ı destekler. Zed’in işbirliğine dayalı düzenlenmesi artı AI, çift çalışma için gerçek bir özelliktir.
Eksik olduğu yer: Windows önizlemesi hala macOS ve Linux’a yetişiyor. Bazı VS Code uzantılarının eşdeğeri yoktur.
Fiyatlandırma:
- Ücretsiz: Kendi API anahtarlarınız ile tamamen ücretsiz.
- Ücretli: Barındırılan modeller ve öncelikli erişim için $10/ay’dan Zed Pro.
Platformlar: macOS, Linux, Windows preview.
İndir: zed.dev · github.com/zed-industries/zed
Sonuç: Modern bir editör istiyorsanız ve AI hikayesi birlikte tasarlanmış değil takılı değilse seçim yapın.
3. Hibrit LLM’ler için Aider — En İyi Terminal Çift Programcı
Aider, terminal-ilk çift programcıdır. Git depo’nuz okur ve düzenler, değişiklikler hakkında devam eden bir sohbet tutar ve neredeyse her model sağlayıcı ile konuşabilir. Küçük şeyler için Ollama’ya ve zor değişiklikler için Claude’a yönlendirildiğinde, bu bu listede en uygun maliyetli kodlama kurulumlarından biridir.
Eksik olduğu yer: Sadece terminal. Bir GUI istiyorsanız seçim değildir.
Fiyatlandırma:
- Ücretsiz: Tamamen ücretsiz, Apache 2.0.
- Ücretli: Hiçbiri.
Platformlar: Windows, macOS, Linux.
İndir: aider.chat · github.com/Aider-AI/aider
Sonuç: Editörünüz bir terminali olduğunda ve AI düzenleme’nin git’e yürütülmesini istediğinizde seçim.
4. Hibrit LLM’ler için Cursor — Yönlendirme ile En İyi VS Code Çatalı
Cursor, ajanlar, özel kurallar ve model değişimi ile VS Code çatalıdır. Pro katmanında, Cursor model erişimini paketler; kendi anahtarlarınız ile yerel modellere de bir miktar yapılandırma aracılığıyla yönlendirebilirsiniz. Uzun bağlam ve ajan modları Cursor’ın parlak olduğu yerdir.
Eksik olduğu yer: Ücretli. Yerel model yönlendirme bulut kullanımına kıyasla ekstra kurulum gerektirir.
Fiyatlandırma:
- Ücretsiz: Oran limitleri ile temel katman.
- Ücretli: $20/ay’dan Pro, $40/ay’dan İşletme.
Platformlar: Windows, macOS, Linux.
İndir: cursor.com
Sonuç: Cilalı bir ajan deneyimi istediğinizde ve bulut tarafı için ödemesi yapmadığınızda bunu seçin.
5. Hibrit LLM’ler için LibreChat — En İyi Kendi Kendine Barındırılan ChatGPT Tarzı Ön Uç
LibreChat, kendi kendine barındırılan ChatGPT tarzı web uygulaması, her büyük sağlayıcı artı yerel çalışma zamanlarına bağlanır. Roller, plugin desteği ve yan yana model karşılaştırması ile çoklu kullanıcı. Docker’da çalıştırın ve bir ev veya küçük ekip arasında paylaşın.
Eksik olduğu yer: Kendi kendine barındırma ek yükü. Kurulum, tek kullanıcılı masaüstü uygulamasının ötesinde bir adımdır.
Fiyatlandırma:
- Ücretsiz: Tamamen ücretsiz, MIT.
- Ücretli: Hiçbiri.
Platformlar: Windows, macOS, Linux, Docker.
İndir: librechat.ai · github.com/danny-avila/LibreChat
Sonuç: Hibrit model yönlendirmeli paylaşılan sohbet isteyen hane halkı veya ekip için seçim.
6. Hibrit LLM’ler için Big-AGI — Yan Yana Model Değişimi ile En İyi Web Sohbeti
Big-AGI, yerel ve bulut modellerden gelen yanıtları yan yana karşılaştırmanıza izin veren tarayıcı tabanlı sohbet. Bir komutta kendi kendine barındırın ve her sağlayıcı bir açılır menüye uzaktır. Personas, kod yapıları ve beam-generate (modeller arasında bir sohbet forking) güçlüdür.
Eksik olduğu yer: Yerel değil web uygulaması. Yerel depolama kullanır; makineler arasında senkronizasyon ekstra kurulum gerektirir.
Fiyatlandırma:
- Ücretsiz: Tamamen ücretsiz, MIT.
- Ücretli: Hiçbiri.
Platformlar: Web (kendi kendine barındırılan veya genel demo).
İndir: big-agi.com · github.com/enricoros/big-AGI
Sonuç: Taahhüt etmeden model yönlendirme deneyimine izin veren bir web uygulaması istiyorsanız seçim.
7. Hibrit LLM’ler için LiteLLM — Her Sağlayıcıyı Birleştiren En İyi Proxy Katmanı
LiteLLM, herhangi bir sağlayıcıyı (Ollama, OpenAI, Anthropic, Bedrock, Vertex, vb.) OpenAI uyumlu uç nokta olarak sunan Python-ve-Docker proxy’sidir. LiteLLM proxy’nize işaret edin ve yapılandırma tarafından arka uç değişimi. Oran sınırlaması ve maliyet takibini merkezi olarak ekleyin.
Eksik olduğu yer: Sohbet uygulaması değil proxy’si. Ön uç getirirsiniz.
Fiyatlandırma:
- Ücretsiz: Tamamen ücretsiz açık kaynak.
- Ücretli: Barındırılan proxy ve destek için Kurumsal fiyatlandırma.
Platformlar: Python veya Docker çalıştıran herhangi bir ana bilgisayar.
İndir: litellm.ai · github.com/BerriAI/litellm
Sonuç: Birden fazla uygulamanın aynı yönlendirme ve maliyet ilkesini paylaşması gerektiğinde seçim.
8. Hibrit LLM’ler için Msty — Bir Pencerede Yerel ve Bulut ile En İyi Masaüstü Sohbeti
Msty, Ollama, LM Studio ve bulut sağlayıcı desteği ile zaten çıkan masaüstü uygulamasıdır. Kendi bölünmüş sohbet görünümü, aynı istem için bir Claude yanıtının yanında bir yerel yanıt görmek için en hızlı yoldur. Bilgi yığınları (Msty’nin RAG özelliği) herhangi bir arka uç ile çalışır.
Eksik olduğu yer: Aurum’un arkasında gated bazı gelişmiş özellikler. Açık kaynak değildir.
Fiyatlandırma:
- Ücretsiz: Tamamen ücretsiz.
- Ücretli: Bilgi yığınları ve premium ekstralar için Aurum $99 ömür boyu.
Platformlar: Windows, macOS, Linux.
İndir: msty.app
Sonuç: Hibrit kurulumları zaten anlayan tek masaüstü sohbet istiyorsanız seçim.
Doğru Olanı Seçme
Çalışmanız VS Code veya JetBrains’de ise: Continue, tasarıma göre ücretsiz ve hibrit.
Editörleri değiştiriyor ve AI-first istiyorsanız: Zed.
Bir terminalde kod yazıyorsanız: Aider.
Ücretli, ajan-ağır deneyim istiyorsanız ve aboneliğe karşı çıkmazsanız: Cursor.
Hane halkı veya ekip her sağlayıcı ile konuşan bir sohbet isterse: LibreChat.
Yönlendirme keşfediyorsanız ve tarayıcıda test sürüşü yapmak istiyorsanız: Big-AGI.
Birden fazla uygulamanın aynı yönlendirme ve oran limitlerini paylaşması gerekirse: Proxy olarak LiteLLM, artı buna işaret eden sohbet uygulaması.
Tek masaüstü uygulaması yeterli ve hepsi istiyorsanız: Msty.
FAQ
Hibrit yerel artı bulut gerçekten API maliyetlerinde ne kadar tasarruf sağlayabilir? XDA’nın yazısı günlük kodlama çalışması için yaklaşık %50 kesime indi. Gerçek tasarruf istem karışımınıza bağlıdır; boilerplate ve otomatik tamamlama yerel olarak yönlendirmek için en yüksek değer adaylarıdır.
Bu uygulamalarla kendi OpenAI veya Anthropic API anahtarlarımı kullanabilir miyim? Evet. Bu listedeki her uygulama kendi anahtarlarınızı kabul eder. Cursor, model erişimini ücretli katmanının bir parçası olarak da paketleyen oyuncudur.
Yerel bir LLM gerçek kodlama çalışması için yeterince iyi mi? Otomatik tamamlama, küçük refactorlar, yorumlar ve hızlı sorular için evet. Multi-dosya refactorlar ve zor akıl yürütme için, çoğu insan hala bir sınır bulut modeli ulaşır.
Hangi uygulamada en az kurulum çabası vardır? Masaüstü sohbet için Msty, editör için Zed. Her ikisi de on dakikadan daha az çalışır.
Bu uygulamalar çevrimdışı çalışır mı? Bu listedeki her uygulamanın yerel-yalnız tarafı çevrimdışı çalışır. Bulut çağrıları ağ gerektirir. Devam et, Zed ve Aider hepsi bulut sağlayıcı ulaşılamıyorsa yerel modelinize geri döner.
