ChatGPT Plus, Midjourney, GitHub Copilot ve Otter.ai aboneliklerinin arasında, günlük olarak yapay zeka kullanan çoğu kişi aylık 50 ila 100 dolar harcamaktadır. Bu hizmetlerin yaptığının yarısı 2022 veya daha yeni bir dizüstü bilgisayarda iyi çalışır. Tüm özellikler değil, ancak bir veya iki aboneliği üzüntü duymadan iptal etmek için yeterlidir. Yaygın ödenen yapay zeka özelliklerini yerel modellerle değiştiren yedi masaüstü uygulamasını test ettik: sohbet, transkripsiyon, görüntü oluşturma, kod tamamlama ve özetleme. Her biri ücretsiz ve açık kaynaklıdır ve her biri Windows, macOS ve Linux’ta çalışır.
Yerel bir yapay zeka değiştirme uygulamasında neye bakılmalı
- Gerçekçi donanım gereksinimleri. 24 GB VRAM gerektiriyorsa, çoğu dizüstü bilgisayar bunu çalıştıramayacak. 8 ila 16 GB makineler için makul varsayılanları olan araçları seçin.
- Model seçimi. En iyi uygulamalar yeni olanlar geldiğinde modelleri değiştirmenize izin verir, böylece geçen yılın kalitesine takılı kalmaz.
- Yerel performans. macOS’ta Metal, NVIDIA’da CUDA, AMD’de ROCm, diğer her şey için Vulkan. Uygulama her şeyi CPU’da çalıştırırsa, çok yavaş olacaktır.
- API yüzeyi. OpenAI uyumlu bir uç nokta, mevcut komut dosyalarınızın ve uzantılarınızın değişiklik olmadan çalışmasını sağlar.
- Varsayılan gizlilik. Açıkça etkinleştirmediğiniz sürece hiçbir şey eve telefon etmemelidir.
- Yerleşik model kataloğu. GGUF dosyalarını el ile indirmek yorucudur. Yerleşik tarayıcısı olan uygulamalar saatleri kurtarır.
Hızlı karşılaştırma
| Uygulama | En iyi | Ücretsiz plan | Platformlar | Neyi değiştirir |
|---|---|---|---|---|
| LM Studio | Sohbet ve kod yardımı | Evet | Windows, macOS, Linux | ChatGPT Plus (hafif kullanım) |
| Ollama | Diğer araçları yerel olarak desteklemek | Evet | Windows, macOS, Linux | Bulut API anahtarları |
| Whisper.cpp | Transkripsiyon | Evet | Windows, macOS, Linux | Otter.ai, Rev.com |
| Stable Diffusion WebUI | Görüntü oluşturma | Evet | Windows, macOS, Linux | Midjourney |
| Kobold.cpp | Uzun yazı ve roleplay | Evet | Windows, macOS, Linux | Roman yazma araçları |
| Continue | IDE’de kod tamamlama | Evet | Windows, macOS, Linux | GitHub Copilot |
| Fooocus | Zahmetsiz görüntü oluşturma | Evet | Windows, macOS, Linux | Midjourney (yine, daha yumuşak) |
| Open WebUI | Yerel modeller için ChatGPT tarzı arayüz | Evet | Windows, macOS, Linux | ChatGPT web uygulaması |
Ödenen özellikleri değiştiren 8 yerel yapay zeka uygulaması
1. LM Studio, en iyi sohbet değişikliği
LM Studio, indirdiğiniz herhangi bir açık ağırlık modeliyle iletişim kuran masaüstünüze ChatGPT tarzında bir pencere koyar. qwen2.5-14b, llama3.1-8b ve mistral-nemo genel soru-cevap, taslak ve kod yardımını çoğu kişinin günlük görevler için ChatGPT’ye yeterince yakın bulduğu bir seviyede ele alır. Model tarayıcısı yerleşiktir ve modeller arasında geçiş yapmak bir tıklamasını gerektirir.
Eksik olduğu yer: Açık kaynak değil (kişisel kullanım için ücretsiz). Görüş modelleri hala GPT-4o gibi barındırılan modellerden geridedir.
Fiyatlandırma:
- Ücretsiz: Kişisel kullanım için ücretsiz
- Ücretli: Ticari takımlar için işyeri lisansı
Platformlar: Windows, macOS, Linux
Değiştirir: Günlük yazma, özetleme ve soru-cevap için ChatGPT Plus.
İndir: LMStudio.ai
Sonuç: ChatGPT Plus’ı iptal etmeye hazırsanız ilk kurulum. GPT-4o’nun görüşüne veya arama entegrasyonuna güveniyorsanız atlayın.
2. Ollama, diğer araçları destekleyen tesisatlar
Ollama, makinenizi OpenAI uyumlu bir uç noktaya dönüştüren model çalıştırıcısıdır. Normalde doğrudan onunla sohbet etmez, diğer araçları (Continue, Open WebUI, Cline, özel komut dosyaları) onun yönünde gösterirsiniz. CLI-first ve en iyi anlamda sıkıcı olduğu için, bu listedeki en güvenilir yerel arka uçtur.
Eksik olduğu yer: GUI yok. İlk kez kullanıcılar bazen bir arayüzün gerekli olduğunu kaçırırlar.
Fiyatlandırma:
- Ücretsiz: Tamamen ücretsiz ve açık kaynak
- Ücretli: Yok
Platformlar: Windows, macOS, Linux
Değiştirir: Komut dosyanız sınır modeli kalitesine ihtiyaç duymadığında OpenAI API maliyetleri.
İndir: Ollama.com GitHub
Sonuç: Bu listedeki neredeyse her şeyin yanında kurun. Yalnızca terminal’e asla dokunmak istemiyorsanız atlayın.
3. Whisper.cpp, çoğu ödenen hizmeti aşan transkripsiyon
Whisper.cpp, OpenAI’nin Whisper modelinin CPU-friendly ve Metal-friendly portu. Bir MP3 veya MP4 sürükleyin, SRT veya düz metin transkripti alın. medium ve large-v3 modellerinde kalite, Otter.ai, Descript ve Rev’in temel seviyesinden eşit veya daha iyidir. macOS uygulaması Whisper Transcription, tıklamayı tercih ederseniz onu yerel bir GUI’ye sarar.
Eksik olduğu yer: Canlı gerçek zamanlı transkripsiyon mümkündür ancak dikkat gerektirir. Konuşmacı diarizasyonu, tescilli diarizasyon yığınları olan hizmetlerle karşılaştırıldığında sınırlıdır.
Fiyatlandırma:
- Ücretsiz: Tamamen ücretsiz ve açık kaynak
- Ücretli: Yok
Platformlar: Windows, macOS, Linux
Değiştirir: Otter.ai, Rev.com self-serve, kişisel kullanım için Descript transkripsiyon.
İndir: GitHub MacWhisper (macOS için Whisper Transcription)
Sonuç: Çoğu kişi için en büyük yapay zeka abonelik katilidir. Transkripsiyon hizmetinizi iptal edin.
4. Stable Diffusion WebUI, görüntü oluşturma
AUTOMATIC1111’s Stable Diffusion WebUI, görüntü oluşturma cephesi için emeklidir. Modern SDXL ve Flux kontrol noktaları 8 GB VRAM’de (Flux Schnell) iyi çalışır veya 12 ila 24 GB’de sorunsuz çalışır. Midjourney size ayda 10 ila 30 dolar tutuyorsa, bu iki saatlik bir öğrenme eğrisinden sonra bunu değiştirecektir.
Eksik olduğu yer: Yerel Stable Diffusion’ı istemeye devam etmek Midjourney’den aynı görünüşü elde etmek için daha fazla çaba gerektirir. Uzantı ekosistemi muazzamdır ancak gürültülüdür.
Fiyatlandırma:
- Ücretsiz: Tamamen ücretsiz ve açık kaynak
- Ücretli: Yok
Platformlar: Windows, macOS, Linux
Değiştirir: Midjourney, rasgele görüntü oluşturma için DALL-E 3.
İndir: GitHub (AUTOMATIC1111) Daha dostça bir varsayılan için Fooocus
Sonuç: Kontrol ve derinlik için bunu seçin. Yanında zahmetsiz varsayılanlar istiyorsanız Fooocus ile eşleyin.
5. Kobold.cpp, uzun yazı ve roleplay
Kobold.cpp, romanlardan etkileşimli kurguya roleplay sohbetine uzun yaratıcı yazı için topluluk favoritesidir. llama3.1-70b ve Qwen2.5-32b-instruct modelleri doğru niceleme ile burada iyi çalışır ve Kobold’un bellek yönetimi uzun oturumları ChatGPT’nin bağlam penceresinden çok daha uzun süre tutarlı tutar.
Eksik olduğu yer: Arayüz güzel yerine işlevseldir. Kurulum LM Studio’dan daha karmaşıktır.
Fiyatlandırma:
- Ücretsiz: Tamamen ücretsiz ve açık kaynak
- Ücretli: Yok
Platformlar: Windows, macOS, Linux
Değiştirir: Sudowrite, NovelAI, kurgusal yazı için ChatGPT.
İndir: GitHub
Sonuç: Kurgusal yazı yazıyorsanız veya uzun roleplay yapıyorsanız Kobold.cpp seçin. Cilalı varsayılanları istiyorsanız atlayın.
6. Continue, IDE kod tamamlama
Continue, açık kaynaklı Copilot alternatifinin öncüsüdür. Ollama’ya qwen2.5-coder:7b (veya 14b veya 32b) ile işaret edin ve VS Code veya JetBrains’te satır içi tamamlama ve sohbet kenar çubuğu alırsınız. Modern Apple Silicon ve NVIDIA dizüstü bilgisayarlarda ortak desenler için Copilot’un önerisi kalitesine yaklaşır.
Eksik olduğu yer: Sınır seviyesi kod anlayışı (büyük yeniden düzenlemeler) hala GitHub Copilot’un bulut modellerinden geridedir. Depo dizinlemesi doğru şekilde yapılandırılmış bir gömme modeli gerektirir.
Fiyatlandırma:
- Ücretsiz: Tamamen ücretsiz ve açık kaynak
- Ücretli: Yok
Platformlar: Windows, macOS, Linux
Değiştirir: GitHub Copilot (ayda 10-19 dolar).
İndir: Continue.dev VS Code Marketplace
Sonuç: Orta düzey GPU’nuz ve mütevazı tamamlama ihtiyaçlarınız varsa Copilot’u iptal edin. Büyük depo ajanlar düzenlemeleri için Copilot’u saklayın.
7. Fooocus, zahmetsiz görüntü oluşturma
Fooocus, makul varsayılanlara sahip Stable Diffusion. Bir istem kutusu, bir görüntü boyutu ve bir düğme vardır. Esas olarak bu kadar. Kaputun altında, kutudan çıkar Midjourney kalitesi çıktı üretmek için seçilen örnekleyiciler, LoRA’lar ve refiner’ların dikkatle seçilmiş bir seti ile SDXL çalıştırır.
Eksik olduğu yer: Tasarım gereği AUTOMATIC1111’den daha az düğme. ControlNet gibi ileri teknikler Fooocus’un kasıtlı olarak gizlediği kurulum gerektirir.
Fiyatlandırma:
- Ücretsiz: Tamamen ücretsiz ve açık kaynak
- Ücretli: Yok
Platformlar: Windows, macOS, Linux
Değiştirir: İstem örnekleyici açılır menüsüne hiçbir zaman dokunmak istemeyen kişiler için Midjourney.
İndir: GitHub
Sonuç: Stable Diffusion WebUI’yi bir kez denediyseniz, kaydırıcılara panik bastıysanız ve kapatıp Fooocus seçin.
8. Open WebUI, yerel modeller için ChatGPT tarzı arayüz
Open WebUI, herhangi bir Ollama veya OpenAI uyumlu uç noktası ile iletişim kuran ve ChatGPT tarzında bir deneyim sunan kendi kendine barındırılan bir tarayıcı arayüzüdür: iş parçacıklı konuşmalar, model seçici, yüklenen belgelerden al-e-ayarla görüntülü arama ve görüntü ve görüş modeli desteği. Bunu dizüstü bilgisayarınızda veya ev sunucusunda bir kez çalıştırın ve ağınızdaki her cihaz yerel modelinizle sohbet edebilir.
Eksik olduğu yer: Kurulum tek bir uygulama yüklemesinden daha dahil edicidir. Bazı özellikler bir kapsayıcı çalışma zamanı varsayar.
Fiyatlandırma:
- Ücretsiz: Tamamen ücretsiz ve açık kaynak
- Ücretli: Yok
Platformlar: Windows, macOS, Linux (Docker veya Python’un olduğu her yerde çalışır)
Değiştirir: Eviniz için ChatGPT web deneyimi.
İndir: Open WebUI GitHub
Sonuç: Aile veya ekip ChatGPT klonu istiyorsanız Open WebUI seçin. Yalnızca bir dizüstü bilgisayardan sohbet ediyorsanız atlayın.
Nasıl seçileceği
- ChatGPT Plus’ta en çok harcıyorsanız: solo kullanım için LM Studio, paylaşılan kullanım için Open WebUI, her ikisi de Ollama’ya işaret ediyor.
- Otter.ai, Rev veya Descript transkripsiyon’da en çok harcıyorsanız: Whisper.cpp, bitti. Bu en hızlı maliyet tasarrufudur.
- Midjourney’de en çok harcıyorsanız: tek tıklamayla Fooocus, kontrol için Stable Diffusion WebUI.
- GitHub Copilot’ta en çok harcıyorsanız: mütevazı donanımda
qwen2.5-coder:7bile devam edin veya VRAM’iniz varsa 14b/32b. - Kurgu yazarsanız: Kobold.cpp.
- OpenAI API’ye karşı yazarsanız: baz URL’yi Ollama’ya değiştirin ve komut dosyanızı saklayın.
SSS
Yerel yapay zeka çalıştırmak için hangi dizüstü bilgisayar gerekir?
16 GB RAM’li herhangi bir dizüstü bilgisayar, Whisper.cpp transkripsiyon, küçük Stable Diffusion çalıştırmaları ve 7 ila 8B dil modellerini ele alacaktır. Ciddi 14 ila 32B model kullanımı için Apple Silicon’da 24 GB birleştirilmiş bellek veya NVIDIA’da 12 ila 24 GB VRAM hedefleyin.
Yerel yapay zeka gerçekten ChatGPT kadar iyi midir?
Özetler, taslaklar, transkripsiyon ve görüntü oluşturma için, çoğu kişi için evet. Derin çok adımlı muhakeme için hayır, sınır barındırılan modelleri hala kazanır.
Önce hangi ödenen aboneliği iptal etmeliyim?
Ne zaman kullandığınız transkripsiyon hizmeti. Whisper.cpp çoğu ile eşleşir veya daha iyidir ve kendini hemen öder.
Ödenen hizmetlerimi yerel modellerle birlikte kullanmaya devam edebilir miyim?
Evet, ve birçok kişi bunu yapır. Yerel modeller günlük işin %80’ini kaplarken barındırılan modeller sınır kalitesi gerektiren son %20’yi ele alır.
Yerel yapay zeka verilerimi gizli tutuyor mu?
Evet, doğru şekilde yapılandırıldığında. Bu listedeki hiçbir şey kasıtlı olarak barındırılan bir API’ye işaret etmediğiniz sürece eve telefon etmez.
