Softonic, OpenAI’nin GPT-6 Sol ve Luna’nın, amiral gemisi modelin altına yerleşen daha ucuz modellerin piyasaya sürülüşünü kapsamlı şekilde ele aldı. Bundan iki şey çıkıyor. Birincisi, rutin bir soruya iyi bir cevap veren fiyat yine düşüyor. İkincisi, akıllı hamle artık “bir abonelik seç ve buna bağlı kal” değil. Şimdi bu, “her sorguyu bunu cevaplayabilecek en ucuz modele yönlendir.”
Aşağıdaki 7 masaüstü için ucuz AI model yönlendirme uygulaması sana bu kapasiteyi veriyor. Bazıları, tek bir API’yi dört yüze yakın model (Sol ve Luna, Claude, Gemini, Llama, Mistral) ve sorgu başına fiyatlandırma ile birlikte bir ağ geçidi hizmetidir; diğerleri, iyi bir GPU’yu hiç bulut modeline ihtiyaç duymayan sorular için özel bir ç çıkarım kutusuna dönüştüren yerel çalıştırıcılardır. Her biri Windows, macOS ve Linux’ta çalışır, API anahtarlarını yerel olarak tutar ve her istem için seçim yapmanıza veya yönlendirmenize izin verir.
AI model yönlendirme uygulamasında ne aramalı
- Çok sağlayıcı desteği, en azından tek bir arabirim üzerinden OpenAI + Anthropic + Google + açık ağırlık.
- İstek başına maliyet görünürlüğü, böylece sohbeti çalıştırmadan önce neye mal olacağını görebilirsin.
- Otomatik yönlendirme kuralları (“sohbet için küçük model, kod için büyük model, özel veriler için çevrimdışı model”).
- İstem önbelleği aynı bağlam penceresini iki kez ödememek için.
- Yerel model desteği donanım izin verdiğinde, özel veriler cihazda kalabilir.
- Çapraz platform böylece bir takım bir kurulum standartlaştırabiliyor.
Hızlı karşılaştırma
| Uygulama | En iyi | Ücretsiz | Bulut + yerel | Yönlendirme mantığı |
|---|---|---|---|---|
| OpenRouter | Dört yüze yakın model arasında tek API | Evet (kredi tabanlı) | Bulut | İstek başına manuel |
| LibreChat | Herhangi bir sağlayıcı üzerinde tam özellikli kendi barındırmalı sohbet | Evet | Bulut + yerel | Sohbet başına manuel |
| Perplexity | Alıntılı cevaplar ve model seçiciyle | Evet | Bulut | Otomatik (Pro planları) |
| Msty | Paralel çalıştırmalarla güzel masaüstü sohbeti | Evet | Bulut + yerel | Yan yana karşılaştırma |
| Cline | Görev başına modeli seçmenizi sağlayan AI kodlama asistanı | Evet | Bulut + yerel | Manuel |
| LM Studio | OpenAI-uyumlu API’si olan yerel model çalıştırıcı | Evet | Yerel | Yüklediğin herhangi bir model |
| Ollama | Komut satırı yerel çalıştırıcı | Evet | Yerel | Yüklediğin herhangi bir model |
Masaüstü için 7 en iyi ucuz AI model yönlendirme uygulaması
1. OpenRouter, dört yüze yakın modele en iyi ağ geçidi
OpenRouter, Sol, Luna, GPT-4.x, Claude, Gemini, Llama, Mistral ve başka yerde barındırılan açık ağırlığın önüne tek bir OpenAI-uyumlu API koyar. İstek başına fiyat gönderilmeden önce görülür ve krediler önceden ödenir, yani kontrol dışı bir döngü kartı boşaltmaz. OpenAI-SDK uyumlu herhangi bir istemciyi OpenRouter’a işaret et ve bir dize değişikliğiyle model değiştir.
Başarısız olduğu yer: Bir ağ geçidi, kullanıcı arabirimi değil. Gerçekten bunun içine yazmak için yine de bir sohbet istemcisine veya kod düzenleyici eklentisine ihtiyacın var.
Fiyatlandırma:
- Ücretsiz: Denemek için küçük bir kredi dengesi.
- Ücretli: Model başına token başına ödeme, artı küçük bir yönlendirme ücreti.
Platformlar: Windows, macOS, Linux (herhangi bir HTTP istemci), artı web panosu.
İndir: OpenRouter
Sonuç: Kullandığın her model için bir API anahtarı ve bir fatura istersen varsayılan arka uç.
2. LibreChat, herhangi bir sağlayıcı üzerinde en iyi kendi barındırmalı sohbet
LibreChat, OpenAI, Anthropic, Google, OpenRouter, LM Studio, Ollama ve daha fazlasına bağlanan, kendi barındırmalı, açık kaynaklı bir sohbet kullanıcı arayüzüdür ve aynı sohbetten yapılabilir. İşletin ortasında modeli değiştir. Sohbetleri küçük bir takım arasında paylaş. Herhangi bir masaüstü veya küçük bir sunucu üzerinde Docker kapsayıcısı olarak çalışır.
Başarısız olduğu yer: Kendi barındırma, güncellemeleri yönettiğin anlamına gelir. Tek tıklamayla indir ve git isteyenler için değil.
Fiyatlandırma:
- Ücretsiz: Tam uygulama (kendi barındırmalı).
- Ücretli: Ücretsiz.
Platformlar: Windows, macOS, Linux, Docker।
İndir: LibreChat
Sonuç: Küçük bir takım özel bir ChatGPT benzeri arayüzü istediğinde, en ucuz sağlayıcıya her işlem başına yönlendiren seçim.
3. Perplexity, model seçiciyle en iyi alıntılı cevaplar
Perplexity, Pro abonesinin sorgu başına mevcut en güçlü modeller arasında seçim yapmasını sağlayan bir yapay zeka arama uygulamasıdır (Sol ve Luna gibi daha ucuz OpenAI modelleri dahil olmak üzere piyasaya sürüldüğünde). Her cevap alıntılarla birlikte gelir, bu nedenle araştırmacılar diğer uygulamalar abonelik olduğunda kaldı.
Başarısız olduğu yer: Gerçekten keyfi istekler için bir “yönlendirme” aracı değil. Üstünde model seçimiyle bir arama biçimlendirme yüzey.
Fiyatlandırma:
- Ücretsiz: Sabit modelle temel arama.
- Ücretli: Model seçici ve daha yüksek limitler için aylık Pro.
Platformlar: Windows, macOS, Linux (web uygulaması), artı Android ve iOS.
İndir: Perplexity
Sonuç: Çoğu isteminin gerçekten “kaynakları olan arama artı özeti” ise bunu seç.
4. Msty, paralel çalıştırmalarla en iyi masaüstü sohbeti
Msty, paralel sütunlarda iki veya üç modele karşı aynı istemi çalıştıran bir masaüstü sohbet istemcisidir. Sol, Claude Haiku ve yerel bir Llama’ya aynı anda beş sent harcamak ve en iyi cevabı seçmek için harika, özellikle de ucuz modelin ne zaman gerçekten işyükü için pahalı olanın yerini aldığını kalibre ederken. Ollama üzerinden yerel modeller, API anahtarları üzerinden bulut modelleri, hepsi bir pencerede.
Başarısız olduğu yer: Paralel çalıştırmalar istem başına daha pahalı tutuluyor (üç modele ödeme yaptın). Tasarruf, bir sonraki seferinde hangi modeli kullanacağını öğrenmiş olmanızdır.
Fiyatlandırma:
- Ücretsiz: Çekirdek masaüstü uygulaması.
- Ücretli: Gelişmiş özellikler için Aurum seviyesi.
Platformlar: Windows, macOS, Linux.
İndir: Msty
Sonuç: Taahhüt etmeden önce kişisel bir yönlendirme politikasını kalibretmek için en iyi seçim.
5. Cline, görev başına model seçimiyle en iyi AI kodlama asistanı
Cline, VS Code içinde çalışan ve görev başına modeli seçmenize izin veren açık kaynaklı bir yapay zeka kodlama asistanıdır. Boilerplate yeniden düzenlemeleri için ucuz bir model, mimari sorular için daha güçlü bir model ve işverenin üçüncü bir tarafa göndermekten kaçınmayı tercih ettiği kod için yerel bir model atayın. OpenRouter veya doğrudan sağlayıcı anahtarları aracılığıyla çalışır.
Başarısız olduğu yer: VS Code gereklidir. JetBrains veya Sublime kullanırsan, bu seçim sana yardımcı olmaz.
Fiyatlandırma:
- Ücretsiz: Uzantı ücretsiz; altta yatan model tokenleri için ödeme yaparsın.
- Ücretli: Sağlayıcı tarafından ne ücretlendirilirse.
Platformlar: Windows, macOS, Linux (VS Code aracılığıyla).
İndir: VS Code Marketplace’te Cline
Sonuç: Editör içinde görev başına maliyet kontrolü isteyenler için seçim.
6. LM Studio, OpenAI-uyumlu API’siyle en iyi yerel model çalıştırıcı
LM Studio, iyi bir GPU’su olan bir masaüstünü özel bir ç çıkarım kutusuna dönüştürür. Açık ağırlık modellerini (Llama, Mistral, Qwen, Gemma, Phi) indir ve çalıştır ve bu listedeki başka herhangi bir uygulamanın işaret edebileceği localhost üzerinde OpenAI-uyumlu bir API aç. Ödenen bir API çağrısını haklı çıkarmayan rutin sorular için harika.
Başarısız olduğu yer: Donanım gereklidir. En az 8 GB VRAM’i olan bir GPU, deneyimin iyi hissetmeye başladığı yerdir; daha büyük açık modeller için 24 GB.
Fiyatlandırma:
- Ücretsiz: Tam uygulama.
- Ücretli: Ücretsiz.
Platformlar: Windows, macOS (Apple Silicon), Linux.
İndir: LM Studio
Sonuç: Yönlendirme kurulumuna sorgu başına ücretsiz yerel bir katman eklemek için bunu seç.
7. Ollama, en iyi komut satırı yerel çalıştırıcı
Ollama, LM Studio’ya ilk komut satırı alternatifidir. Tek bir komutla bir modeli çek, localhost’da OpenAI-uyumlu bir API ile hizmet et ve herhangi bir istemciyi işaret et. Modelfile sistemi, sistem istemlerini ve parametreleri yeniden kullanılabilir bir model etikeline pişirmesini kolaylaştırır.
Başarısız olduğu yer: Komut satırı ilk. Yerleşik sohbet kullanıcı arabirimi yok (rağmen LibreChat ve Msty memnuniyetle buna bağlanır).
Fiyatlandırma:
- Ücretsiz: Tam uygulama.
- Ücretli: Ücretsiz.
Platformlar: Windows, macOS, Linux.
İndir: Ollama
Sonuç: Terminal içinde rahat olan herkes için varsayılan yerel arka uç. Kullanıcı arabirimi için LibreChat veya Msty ile eşleş.
Doğru olanı seçme yolu
Her model için bir fatura ve bir API anahtarı istersen, hepsini OpenRouter aracılığıyla kablo.
Ağ geçidi üzerinde bir sohbet kullanıcı arabirimi istersen, LibreChat yükle ve OpenRouter’a işaret et, artı özel veriler için yerel Ollama senin.
Çoğu yapay zeka kullanımın arama biçimliyse, Perplexity Pro tutun ve ağ geçidi karmaşıklığını atla.
Kod yazarsan, VS Code’da Cline yükle ve rutin görevler için Sol veya Luna’yı varsayılan model olarak ayarla, zor olanlar için Claude veya Opus.
Terminal olmadan modelleri yerel olarak çalıştırmak istersen, LM Studio yükle. Yerel cevabı bulut modeline karşı yan yana kontrol etmek istersen Msty ekle.
SSS
GPT-6 Sol ve Luna nedir?
Softonic, Sol ve Luna’yı OpenAI GPT-6’nın daha ucuz seviyesi olarak ve amiral gemisinin aşırı olduğu yüksek hacimli rutin sorguları hedeflediğini rapor ediyor.
Modeller arasında yönlendirme yaparak gerçekten para kazanabilir miyin?
Evet, anlamlı bir şekilde. Rutin sohbet, özetleme ve kısa form taslakları çoğu zaman ucuz ve amiral gemisi modelleri arasında ayırt edilemez. Zor sorguların %10’u için amiral gemisini ayırması tipik olarak kullanıcılar tarafından fark edilen kalite düşüşü olmadan toplam harcamayı azaltır.
Bu uygulamalar Claude ve Gemini ile de çalışır mı?
Evet. OpenRouter, LibreChat ve Cline tümü OpenAI modelleriyle birlikte Claude ve Gemini desteği verir.
Yerel modeller için hangi GPU’ya ihtiyacım var?
8 GB VRAM’li bir GPU rahat bir şekilde 7-8 milyar parametreli modelleri çalıştırır. 24 GB kart niceleme ile 70B sınıfı modelleri çalıştırır. 16 GB birleşik belleğe veya daha fazlasına sahip Apple Silicon Mac’ler de uygulanabilir.
OpenRouter’a kod göndermek güvenli miş?
OpenRouter istekleri upstream sağlayıcısına iletir. Saklama ve eğitim politikaları upstream’inkidir, OpenRouter’ın değil. Hassas kodu göndermeden önce sağlayıcının veri politikasını oku veya bu istekleri Ollama veya LM Studio üzerinden yerel bir modele yönlendir.
