Softonic bu hafta Arm, Intel ve AMD’nin bir sonraki CPU’larını özellikle cihazda AI asistanları için hazırlıyor olduğundan bahseden bir yazı yayınladı. Bu pazarlama değildir. NPU ile gönderilen her 2026 dizüstü bilgisayar, küçük modelleri yerel olarak çalıştırmak için tasarlanmıştır, böylece telefon boyutunda bir dil modeli soruları cevaplayabilir, dosyaları özetleyebilir ve bulut API’sine gidiş dönüş olmadan bir asistan çalıştırabilir. Pazar değişti çünkü çoğu insan hala ChatGPT.com’a yazıyor. Modellerinizi kendi donanımınızda çalıştırmanıza izin veren sekiz en iyi cihazda AI uygulaması test ettik, ister CPU’da, mevcut GPU’da veya yeni NPU’lardan birinde olsun.
Buradaki her seçim Windows, macOS veya Linux’ta çalışır. Altısı açık kaynaklıdır. İkisi cömert ücretsiz katmanları olan cilalı ticari arayüzlerdir. En yeni nicelenmiş modelleri temiz bir şekilde hangilerin işlediğini ve hangilerin zaten NPU yolunu gönderdiğini işaretliyoruz.
Yerel bir AI çalışma zamanında ne arayın
- Model formatı desteği. GGUF, llama.cpp için mevcut lingua franca’dır. Bazı uygulamalar aynı zamanda NPU’lar için ONNX ve Apple Silicon için MLX’i de işler.
- NPU veya hızlandırıcı farkındalığı. CPU’da 7B model çalıştırmak yavaştır. Intel veya AMD NPU’da çalıştırmak etkileşimli sohbet için yeterince hızlıdır. Bugün sadece bazı çalışma zamanları NPU’ya yönlendirilir.
- Güncel kalan bir model kataloğu. Yeni modeller haftalık olarak ortaya çıkar. Manuel indirme ve sürükle akışı gerektiren uygulamalar yavaşlatır.
- Bir sunma API’si. Erken veya geç, modeli editörünüzün, notlar uygulamanızın veya bir script’in arkasında isteyeceksiniz. Yerel bir bağlantı noktasında OpenAI uyumlu API sunan çalışma zamanları taşınabilirdir.
- Varsayılan olarak gizlilik. Cihazda, burada olmanın tüm nedenidir. Varsayılan olarak komut istemlerini eve gönderen herhangi bir uygulama noktayı kaçırmıştır.
Hızlı karşılaştırma
| Uygulama | En iyi | Lisans | NPU farkında | OpenAI uyumlu API |
|---|---|---|---|---|
| Ollama | Varsayılan yerel çalışma zamanı | Free, MIT | Kısmi | Evet |
| LM Studio | Arayüz-first CLI olmayan kullanıcılar için | Free, proprietary | Evet | Evet |
| Jan | Açık kaynaklı LM Studio eşdeğeri | Free, AGPL | Büyüyen | Evet |
| GPT4All | En basit masaüstü sohbeti | Free, MIT | CPU optimize | Evet |
| LocalAI | Kendi kendine barındırılan OpenAI kolay değişim | Free, MIT | Kısmi | Evet |
| Msty | Cilalı ticari arayüz | Free tier | Evet | Evet |
| Open WebUI | Herhangi bir yerel arka uç için arayüz | Free, BSD | Arka uca bağlıdır | Evet |
| AnythingLLM | Yerel RAG + bir istemcide sohbet | Free, MIT | Arka uca bağlıdır | Evet |
Masaüstü için 8 en iyi cihazda AI uygulamaları
1. Ollama, varsayılan yerel çalışma zamanı
Ollama, bu listedeki neredeyse her diğer aracın işaret edebileceği çalışma zamanıdır. Bir kez kurun, tek bir komutla bir model çekin ve localhost:11434’de OpenAI uyumlu API’ye sahip bir sohbet modeliniz var. Model kütüphanesi geniş ve ana sürümün birkaç gün içinde güncel kalır. CLI minimaldir ve masaüstü uygulaması, tıklamayı tercih edenler için 2025’te sohbet UI ekledi.
Eksik olduğu yer: NPU yönlendirmesi kısmidir ve donanıma özgüdür. Çok kullanıcılı veya ekip senaryoları bir sarmalayıcı gerektirir. GUI özellikleri, özel arayüzlerin gerisinde kalır.
Fiyat: Free, MIT license.
Platformlar: Windows, macOS, Linux.
İndir: ollama.com · GitHub
Sonuç: Buradan başlayın. Bu listedeki hemen hemen her şey üstte bir arayüz olarak işlev görür.
2. LM Studio, arayüz-first CLI olmayan kullanıcılar için
LM Studio, yerel model çalıştırmak, Chrome’u kurmaya çok benzer. Kenar çubuğunda model kataloğu, indirme için bir tıklama ve sadece çalışan bir sohbet penceresi. 2026 sürümleri Snapdragon X, Intel Core Ultra ve AMD Ryzen AI makineleri için NPU desteği ekledi. API sunucuları OpenAI uyumlu arayüz ile localhost’ta çalışır.
Eksik olduğu yer: Kapalı kaynak çalışma zamanı. Masaüstü uygulaması kişisel kullanım için ücretsizdir, ancak ticari kullanım ücretli bir plan gerektirir.
Fiyat:
- Free: kişisel kullanım
- Paid: oturum başına fiyatlandırılan ticari takım planları
Platformlar: Windows, macOS, Linux.
İndir: lmstudio.ai
Sonuç: Cilalı bir arayüz ve modern bir AI PC’de çalışan NPU yolu isteyen herkes için tercih.
3. Jan, açık kaynaklı LM Studio eşdeğeri
Jan, LM Studio’ya açık kaynaklı cevaptır. Model kataloğu, sohbet UI’ı, yerel API sunucusu ve insanların eklenti göndermesine izin veren uzantı modeli. Kapakta, Jan llama.cpp ve diğer arka uçları kullanır ve üstte temiz bir elektron GUI ekler. NPU yönlendirmesi çoğu durumda LM Studio’nun bir sürüm gerisinde kalır, ancak kod incelenebilir ve lisanslama arkadaşçadır.
Eksik olduğu yer: Arayüz cilası bazı yerlerde LM Studio’nun gerisinde kalır. Uzantı ekosisteemi hala küçüktür.
Fiyat: Free, AGPL.
Platformlar: Windows, macOS, Linux.
Sonuç: LM Studio deneyimi istiyorsunuz ancak açık kaynaklı kod ihtiyacı varsa seçim.
4. GPT4All, en basit masaüstü sohbeti
GPT4All Nomic AI tarafından, çoğu başlangıçlının seçtiği araç, çünkü bir şey yapar: kurun, bir model seçin, sohbet edin. Katalog, GPU veya NPU’su olmayan donanımda özellikle yararlı olan CPU optimize nicelenmiş modellere odaklanır. Belgeler sakin ve kapsamlı, ve bir klasör üzerinde basit RAG çalıştıran yerel belgeler özelliği vardır.
Eksik olduğu yer: Özellik seti kasıtlı olarak dar. Henüz Apple dışı donanımda NPU hızlandırması hikayesi yok.
Fiyat: Free, MIT license.
Platformlar: Windows, macOS, Linux.
İndir: nomic.ai/gpt4all · GitHub
Sonuç: Daha eski donanım için tercih, veya öncelik en az kurulumsa sadece bir model çalıştıran.
5. LocalAI, kendi kendine barındırılan OpenAI kolay değişim
LocalAI takımlar için tercih. Bir ev sunucusu veya laboratuvar makinesinde OpenAI uyumlu API ayarlar, sohbet, yerleştirmeler, görüntü üretimi ve konuşmayı bir süreçte işler ve birden çok istemci uygulamasının aynı arka ucu paylaşmasına izin verir. Docker dağıtımı birinci sınıftır, bu nedenle Proxmox ev laboratuvarına da düzgünce uyar.
Eksik olduğu yer: Arayüz yok. Bunu bir istemciye bağlarsınız, tersi değil. Doğru nicelemesi ve tahliyesi almak bir yapılandırma geçişi gerektirir.
Fiyat: Free, MIT license.
Platformlar: Linux, macOS, Docker üzerinden Windows.
İndir: localai.io · GitHub
Sonuç: Birden çok kullanıcı veya birden çok aracın bir yerel model arka ucunu paylaşması gerektiğinde tercih.
6. Msty, cilalı ticari arayüz
Msty, yapılandırma dosyasına hiçbir zaman dokunmak istemeyen kişiler için “indir ve çalışır” seçeneğidir. Bir çalışma zamanı, model kataloğu, sohbet UI, RAG yığını ve iş akışı oluşturucu bir araya getirir. NPU desteği 2026 sürümlerinde Snapdragon X ve Intel Core Ultra için geldi. Kişisel kullanım cömert limitlerle ücretsizdir.
Eksik olduğu yer: Kapalı kaynak. Ticari kullanım hızlı ölçülür. İş akışı oluşturucu güçlüdür ve fazla yatırım yapmak da kolay.
Fiyat:
- Free: cömert kotayla kişisel kullanım
- Paid: takımlar için ayda yaklaşık 12 $ başlayarak
Platformlar: Windows, macOS, Linux.
İndir: msty.app
Sonuç: Cilalama önemli olduğunda ve RAG yığınının dahil edilmesini istediğinizde tercih.
7. Open WebUI, herhangi bir yerel arka uç için arayüz
Open WebUI, OpenAI uyumlu herhangi bir API’ye işaret edebileceğiniz bir tarayıcı arayüzüdür. Ollama, LocalAI veya bulut uç noktasına işaret edin ve çok kullanıcılı kimlik doğrulaması, komut istemi kitaplıkları, RAG ve araç çağrılarıyla tamamlanmış sohbet UI’ı olur. Ollama ile aynı makinede Docker ile dağıtın ve ağdaki kişilerin oturum açabileceği kendi kendine barındırılan bir asistanınız var.
Eksik olduğu yer: Kurulum, yerel bir uygulama değil bir tarayıcı yığınıdır. Bazı arayüz özellikleri kalıcı bir arka ucu varsayar.
Fiyat: Free, BSD license.
Platformlar: Linux, macOS, Docker üzerinden Windows; üçünde de tarayıcı istemcisi.
İndir: openwebui.com · GitHub
Sonuç: Yerel bir çalışma zamanının üstünde paylaşılan takım asistanı için tercih.
8. AnythingLLM, yerel RAG artı bir istemcide sohbet
AnythingLLM Mintplex Labs tarafından, sohbet UI’ı, belge çalışma alanı ve vektör veritabanını tek bir masaüstü uygulamasında bir araya getirir. PDF klasörünü bırakın ve sohbetin sorgulayabileceği yerel bir dizine gömün. Arka uç model agnostiktir, bu nedenle Ollama veya LM Studio ile temiz bir şekilde eşleştirilir.
Eksik olduğu yer: Hepsi bir paket uygun ama sohbet yalnızca istemciden daha ağırdır. Çok çalışma alanı senaryoları biraz kurulum gerektirir.
Fiyat: Free, MIT license.
Platformlar: Windows, macOS, Linux.
İndir: anythingllm.com · GitHub
Sonuç: Yerel modeller çalıştırmanın amacı kendi dosyalarınız hakkında sorular sormak olduğunda tercih.
Doğru olanı nasıl seçersiniz
- Sadece bu öğleden sonra yerel bir sohbet modeli istiyorsanız: Ollama artı Jan veya Open WebUI gibi basit bir arayüz.
- NPU’lu 2026 dizüstü bilgisayarınız varsa: LM Studio veya Msty NPU hızlandırmasına giden en kısa yol için.
- Ev laboratuvarında paylaşılan bir takım asistanı istiyorsanız: arka uç olarak LocalAI, arayüz olarak Open WebUI.
- Kendi belgeleriniz hakkında sorular sormak amacıysa: AnythingLLM veya RAG paketinin Msty’si.
- Önceliğiniz incelenebilir açık kaynaklı kod ise: Jan, GPT4All veya LocalAI.
En büyük modeli takip etmeyin. RAM’inize temiz sığan ve NPU’ya yönlendirilen bir 7B veya 8B modeli, diske takas edilen 70B modelinden daha hızlı hissedilecektir.
SSS
2026’da en iyi ücretsiz cihazda AI uygulaması nedir? Çalışma zamanı için Ollama, UI için Jan veya Open WebUI. Üçü de ücretsiz ve açık kaynaklıdır ve tam bir yerel asistanda birleşir.
Yerel modeller çalıştırmak için GPU’ya ihtiyacım var mı? Hayır. Modern nicelenmiş 7B ve 8B modelleri modern CPU’larda kabul edilebilir şekilde çalışır. GPU veya NPU, etkileşimli sohbet için yeterince hızlı hale getirir.
İnternet bağlantısı olmadan yerel modeller çalıştırabilir miyim? Evet, model indirildikten sonra. Buradaki sekiz uygulamanın tümü yerel olarak çalışır. Bazıları başlangıçta güncellemeleri kontrol eder ve çoğu bunu devre dışı bırakmanıza izin verir.
Hangi uygulama Arm, Intel ve AMD’nin yeni NPU’larını destekler? LM Studio ve Msty, Snapdragon X, Intel Core Ultra ve AMD Ryzen AI makinelerine NPU yolları gönderi. Ollama NPU desteği donanım kaynağında gelir.
Bu uygulamalar özel belgelerle güveli mi? Sekizinin tümü varsayılan olarak yerel olarak çalışır, bu nedenle komut istemleri ve belgeler makinenizde kalır. Her uygulamanın telemetri ayarını kontrol edin ve sıfır giden trafiği istiyorsanız analitikleri devre dışı bırakın.
