NPU eskiden etiketteki atılacak spesifikasyondu. Son olarak bu değişiyor. Snapdragon X Elite dizüstü bilgisayarları 2024’te 45 TOPS NPU ile piyasaya çıktı, Intel Lunar Lake ile devam etti ve AMD Ryzen AI 300 ile. Böyle Copilot+ PC’nin artık modelleri yerel olarak, hızlı bir şekilde ve pilin tükenmesi olmadan çalıştırmak için tasarlanmış bir yongası var. Softonic’in Arm, Intel ve AMD’nin sonraki nesil CPU’larını kapsaması eğilimi doğruluyor, cihazda çıkarım artık pazarlama değil gerçek bir hedef.

Sorun, henüz pek çok uygulamanın NPU’yu kullanmamasıdır. Windows Studio Effects ve Recall bunu kullanır. Bir avuç üçüncü taraf uygulaması yetişti. Bu liste, Copilot+ PC’de zaten ödediğiniz NPU’yu gerçekten kullanmak için kurulum yapılmaya değer sekiz masaüstü uygulamasını kapsar.

Copilot+ PC uygulamasında ne aranacak

Microsoft Store’daki her “AI” uygulaması NPU’yu kullanmaz. Çoğu önceden olduğu gibi GPU veya CPU tabanlı ardışık düzeni gönderir ve pazarlamayı yeniden markalandırır. Neyin önemi vardır:

Hızlı karşılaştırma

UygulamaEn iyi içinPlatformlarÜcretsiz planBaşlangıç fiyatıNPU hızlandırması
LM StudioYerel LLM’lerle sohbetWindows Arm64, x64, MacTamamen ücretsiz uygulamaÜcretsizSnapdragon X’de yerel
OllamaCLI veya API’den LLM’leri çalıştırmaWindows Arm64, x64, Mac, LinuxÜcretsizÜcretsizSeçili donanımda DirectML
KrispGerçek zamanlı ses temizlemeWindows, MacGünde 60 dakika ücretsizYaklaşık $8/ayCopilot+ PC’de NPU ses modeli
Adobe LightroomAI fotoğraf geliştirmeWindows, Mac7 günlük denemeYaklaşık $10/ay Photography planıCopilot+ PC’de Enhance NPU kullanır
DaVinci ResolveAI video düzenlemeWindows, Mac, LinuxTamamen ücretsiz sürümStudio için $295 bir kezNPU özellikli donanımda Neural Engine
Camo StudioAI web kamerası efektleriWindows, MacÜcretsiz sürümYaklaşık $40/yıl ProNPU’da arka plan bölümlendirmesi
CapCutAI tarafından güdülen video düzenlemelerWindows, MacTamamen ücretsiz sürümYaklaşık $8/ay ProCihazda altyazı ve kaldırma
Whisper.cppYerel konuşma-metin dönüştürmeWindows, Mac, LinuxÜcretsiz, açık kaynakÜcretsizQualcomm QNN ve OpenVINO arka uçları

Uygulamalar

1. LM Studio -- Yerel LLM'lerle sohbet için en iyi

LM Studio, Copilot+ PC’de yerel bir modeli konuşmaya başlatmanın en hızlı yoludur. Arm64 yapısı Qualcomm’un QNN arka ucunu kullanan bir NPU runtime’ı ile gelir, bu nedenle Llama 3, Phi ve Mistral gibi 7B ve 8B parametreli modeller fan kapalı yken kullanılabilir hızda çalışır. Uygulama kendisi bir sohbet penceresi artı bir model kataloğu, hiçbir yapılandırma gerekmez.

Başarısız olduğu yer: NPU arka ucu yalnızca QNN için dönüştürülen modelleri kabul eder. Katalog büyüyor ancak yine de genel GGUF kütüphanesinden küçük. Belirli bir fine-tune’unuz varsa, kurmadan önce NPU-hazır biçimde mevcut olduğunu kontrol edin.

Fiyatlandırma:

Platformlar: Windows Arm64, Windows x64, macOS

İndir: LM Studio Windows/Mac için

Sonuç: Copilot+ PC’de NPU’nun en etkileyici kullanımı. Bunu önce kurun.

2. Ollama -- Komut satırından yerel LLM'ler için en iyi

Ollama, geliştiricilerin ve komut dosyası yazıcılarının bir terminal veya API’den modelleri çalıştırmak için kullandıkları araçtır. localhost’ta bir REST uç noktasını ortaya çıkarır, ki her ciddi IDE entegrasyonu ve kodlama asistanı bunu bilir. Copilot+ PC’lerde, DirectML desteği kademeli olarak yayınlanıyor, bu nedenle son yapılar CPU’ya geri dönmek yerine desteklenen donanımda NPU’dan faydalanır.

Başarısız olduğu yer: CLI öncelikli tasarım herkes için değildir ve NPU yolu LM Studio’nunkinden daha genç. Bazı modellerin runtime sürümüne bağlı olarak bugün NPU yerine GPU veya CPU’da çalışacağını bekleyin.

Fiyatlandırma:

Platformlar: Windows Arm64 ve x64, macOS, Linux

İndir: Ollama Windows/Mac/Linux için

Sonuç: yerel bir modele karşı komut dosyası yazmak istiyorsanız doğru seçim. LM Studio daha iyi UI’ye sahip, Ollama’nın API’si var.

3. Krisp -- Gerçek zamanlı ses temizleme için en iyi

Krisp, gürültü bastırma modelini Copilot+ PC’lerde NPU’ya taşıyan ilk üçüncü taraf uygulamalarından biridir. Ses yolunda oturur ve mikrofon girişini gerçek zamanlı olarak temizler, bu nedenle Zoom, Teams, OBS ve tüm DAW’lar uygulama başına hiçbir yapılandırma olmaksızın filtrelenmiş bir sinyal alır. Pilde, modeli CPU’dan taşıma gerçek, ölçülebilir bir etkisi vardır.

Başarısız olduğu yer: ücretsiz sürüm günde 60 dakikalık gürültü iptali ile sınırlıdır. Ve Krisp bir editör değil, sadece bir filtredir.

Fiyatlandırma:

Platformlar: Windows, Mac

İndir: Krisp Windows/Mac için

Sonuç: açın, unutun ve aramalarınız daha temiz ses alır. Copilot+ PC’de pil maliyeti sıfıra yakındır.

4. Adobe Lightroom -- AI fotoğraf geliştirme için en iyi

Adobe Lightroom, GPU’yu cezalandırıp Enhance (süper çözünürlük), Denoise ve maskeleme gibi yapay zeka tarafından güdülen özelliklerin bir setini gönderir. Copilot+ PC’de, son Lightroom güncellemeleri bunları mümkün olduğunda NPU aracılığıyla yönlendirir, bu nedenle RAW dosyalarından oluşan bir toplu daha hızlı tamamlanır ve fan sessiz kalır.

Başarısız olduğu yer: hala Adobe’dir. Yalnızca abonelik, Creative Cloud girişi gerekli ve Adobe faturalandırmasını hoşlamayan fotografcılar zaten bunu bilirler. Ayrıca, yalnızca bazı yapay zeka işlemleri bugün NPU’yu kullanır; diğer adımlar GPU’da çalışmaya devam eder.

Fiyatlandırma:

Platformlar: Windows, Mac

İndir: Adobe Lightroom Windows/Mac için

Sonuç: Adobe aboneliği içindeki fotografcılar için NPU hızlandırması ücretsiz bir hızdır. Başka birine, bu doğru giriş noktası değildir.

5. DaVinci Resolve -- AI video düzenleme için en iyi

DaVinci Resolve, konuşma-metin dönüştürme, magic mask (nesne bölümlendirmesi), ses yalıtımı ve sahne algılaması özellikli bir Neural Engine’e sahiptir. Copilot+ PC’lerde, son Studio yapıları bunlardan bazılarını NPU’da çalıştırır ve Blackmagic kademeli olarak daha fazla model setini dönüştürüyor. Temel uygulama ücretsizdir ve NPU işi otomatik olarak gerçekleşir.

Başarısız olduğu yer: en büyük Neural Engine özellikleri, daha iyi yapay zeka upscaling ve belirli maskeleme modları yalnızca Studio’dur. Ve Resolve ünlü bir şekilde ağırdır, kurulum boyutu ve RAM iştahı büyüktür.

Fiyatlandırma:

Platformlar: Windows, Mac, Linux

İndir: DaVinci Resolve Windows/Mac/Linux için

Sonuç: Copilot+ PC’de video düzenleyen herkes için ücretsiz sürüm zaten fayda görmektedir. Studio geri kalanını açar.

6. Camo Studio -- AI web kamerası efektleri için en iyi

Camo Studio, bir telefon veya web kamerasını çerçeveleme, arka plan bölümlendirmesi ve ışık efektleri olan uygun bir sanal kameraya dönüştürür. Copilot+ PC donanımında, bölümlendirme modeli NPU’ya geçer, bu nedenle Zoom araması CPU artışı veya fan dönüşü olmadan portre modu arka planını çalıştırabilir.

Başarısız olduğu yer: Pro sürümü iyi efektleri kapıyor ve Camo, giriş kaynağı olarak iPhone veya iPad ile eşleştirildiğinde en iyi çalışır. Entegre web kameralarında raslantısal kullanıcılar daha az fayda alır.

Fiyatlandırma:

Platformlar: Windows, Mac

İndir: Camo Studio Windows/Mac için

Sonuç: web kameranız video aramalarda korkunç görünüyorsa düzeltme. Pilde, NPU bölümlendirmesi bunu çok daha ucuz hale getirir.

7. CapCut -- Cihazda video düzenleme için en iyi

CapCut, sessizce çoğu yaratıcının gerçekten kullandığı video editörü haline geldi ve Windows masaüstü yapısı daha fazla yapay zeka özelliğini (otomatik altyazı, arka plan kaldırma, stil aktarma) Copilot+ PC’lerde NPU’ya kaydırır. Bu, 20 dakikalık bir videonun bulut sekmesi açmadan altyazı veya maskelenebileceği anlamına gelir.

Başarısız olduğu yer: ByteDance CapCut’a sahiptir, bu da bazı editörler için veri işleme endişelerini artırır. Ücretsiz sürümün kullanıcıları Pro’ya iten filigran ve dışa aktarma limitleri vardır.

Fiyatlandırma:

Platformlar: Windows, Mac

İndir: CapCut Windows/Mac için

Sonuç: hızlı yapay zeka özellikleri cihazda istediğiniz kısa form ve sosyal video editörleri için seçim.

8. Whisper.cpp -- Yerel dökümü için en iyi

Whisper.cpp, OpenAI’nin Whisper dökümü modelinin hafif bir C/C++ portu. Copilot+ PC’lerde Qualcomm’un QNN arka ucunu veya Intel’in OpenVINO arka ucunu hedefleyebilir, bu da modeli NPU’ya iter. Sonuç olarak, tamamen çevrimdışı çalışan, gerçek zamandan daha hızlı çalışan, bir dizüstü bilgisayarda tam kaliteli bir dökümü ardışık düzenidir.

Başarısız olduğu yer: cilalı arayüz yok. Whisper.cpp bir dizi ikili dosya ve Python bağlamasıdır. Modelleri indirmek ve komut çalıştırmak giriş maliyetidir.

Fiyatlandırma:

Platformlar: Windows, Mac, Linux

İndir: Whisper.cpp GitHub’da

Sonuç: gizlilik veya çevrimdışı yeteneğe önem veren herkes için dökümü ardışık düzenidir. Bunu bir komut dosyasında sarın ve toplu bir döküm yazıcısı olur.

Doğru olanı nasıl seçeceğiniz

Bir Copilot+ PC’yi az önce satın aldıysanız ve NPU’nun hemen etkileyici bir şey yapmasını görmek istiyorsanız, LM Studio kurun. Nokta.

Kodluyorsanız ve IDE eklentilerinin kullanabileceği yerel bir model istiyorsanız, Ollama REST uç noktası nedeniyle LM Studio’dan daha iyi seçimdir.

NPU dizüstü bilgisayarınız bir iş makinesi ise ve video aramaları günü hakimse, Krisp ve Camo Studio neredeyse sıfır pil maliyeti ile ses ve videoyu birlikte temizler.

Fotoğraf düzenliyorsanız, Adobe Lightroom’un Enhance ve Denoise’si Adobe Creative Cloud’da en büyük NPU kazanımlarıdır, zaten RAW çekiyorsanız aboneliğe değer.

Video düzenliyorsanız, DaVinci Resolve ücretsiz sürümü çok yapay zeka faydası için yeterli ve Studio geri kalanını açar.

Sosyal format video yapıyorsanız, CapCut Resolve’dan daha hızlı bir on-ramp’dır.

Mülakatlar veya uzun form ses kaydediyorsanız ve dökümler istiyorsanız, Whisper.cpp en iyi çevrimdışı sonucu üretir. Biraz komut dosyası yapmaya istekli.

SSS

Copilot+ PC nedir ve birinin olup olmadığını nasıl bilirim? Copilot+ PC, 40 TOPS veya daha yüksek NPU’ya sahip bir Windows 11 dizüstü bilgisayarıdır. Snapdragon X Series, Intel Core Ultra 200V (Lunar Lake) ve AMD Ryzen AI 300 hepsi uygun. “Copilot+ PC” için Ayarlar, Hakkında öğesini kontrol edin veya etiketine bakın.

Bu uygulamalar Copilot+ donanımı gerektirir mi? Hayır, sekizi de başka Windows PC’lerde ve çoğu Mac’te de çalışır. NPU hızlandırması yalnızca sahip olan donanımda işe yarar. Sıradan bir dizüstü bilgisayarda, aynı uygulamalar GPU veya CPU’ya geri düşer.

Hangi uygulamalar yapılandırma olmaksızın NPU’yu kullanır? LM Studio, Krisp, DaVinci Resolve ve CapCut NPU’yu otomatik olarak algılar. Ollama ve Whisper.cpp doğru arka ucun seçilmesi gerekir. Lightroom ve Camo Studio işleme bağlı olarak seçici yönlendirme yapar.

Snapdragon X (Arm64) uygulamaları Intel veya AMD x86 sürümleri kadar mı hızlıdır? Arm64 yerel yapıları rekabetçidir ve sıklıkla NPU’da daha hızlıdır. Emülasyon altında çalışan x64 uygulamaları daha yavaş ve daha fazla pil kullanır. Bu listedeki uygulamalar tümü Arm64 yerel sürümleri gönderir.

NPU’da 7B’den daha büyük modelleri çalıştırabilir miyim? Mevcut 45-TOPS NPU’larda 7B ve 8B parametreli modeller tatlı noktadır. 13B çalışıyor ancak azalmış hızda. 70B bugünün NPU’sunda gerçekçi değil; bir GPU çok VRAM ile hala onlar için cevapdır.

NPU uygulamaları çevrimdışı çalışır mı? Evet, bu cezbedir. LM Studio, Ollama, Whisper.cpp, DaVinci Resolve’un Neural Engine’i ve Krisp tümü modellerini yerel olarak hiçbir ağ trafiği olmaksızın çalıştırır.