Windows, macOS ve Linux'ta yerel LLM çalıştırmak için Unsloth Desktop

Unsloth Desktop, Ağustos 2026’da, Colab not defterinde olmak yerine, araştırmacıların kullandığı aynı dizüstü bilgisayarda çalışan Unsloth ekibinin ilk uygulaması olarak piyasaya çıktı. Önerme açıktır: Unsloth’un zaten gönderdiği Dynamic GGUF’ları çalıştırın, uygulamayı bırakmadan bu modelleri fine-tune edin ve Claude Code veya Codex’in konuşabileceği yerel bir API alın. 32 GB unified memory’li MacBook’ta çalışır. 4060 mobile GPU’su olan küçük bir Windows dizüstü bilgisayarında da çalışır, sadece daha küçük modellerle.

Ancak Unsloth Desktop, pazardaki tek seçenek değil. Yedi alternatif, “masaüstünüzdeki yerel LLM” aynı alanını, farklı öncelikleri ile kapsar: en hızlı ilk çalıştırma, en iyi sunucu modu, en iyi belge sohbeti, en iyi fine-tuning hikayesi. Bunlar, iki ay boyunca Unsloth betasını çalıştırdıktan sonra hala kurulu tuttuğumuz uygulamalardır.

Hızlı Karşılaştırma

Uygulama En İyi Lisans Donanım Gereksinimleri API Sağlar
LM Studio Sohbete giden en kısa yol Proprietary (ücretsiz) 8 GB RAM Evet, OpenAI uyumlu
Ollama Terminal-first ve scripting MIT 8 GB RAM Evet, OpenAI uyumlu
AnythingLLM Kendi belgelerinizle sohbet MIT 8 GB RAM Evet
Jan GUI ile tamamen açık kaynak AGPL 8 GB RAM Evet
GPT4All Tamamen çevrimdışı izole sohbet MIT 4 GB RAM Evet
Open WebUI Ollama üzerindeki en iyi tarayıcı arayüzü MIT Herhangi biri (çıkarsama sunucusu gerekir) Evet
Msty Çok sağlayıcılı sohbet ve bilgi yığınları Proprietary (ücretsiz katman) 8 GB RAM Yerel sunucu yok

İnsanlar Neden Unsloth Desktop’u Terk Ediyor

Burada “Unsloth bozuk” şeklinde şikayetler yok. Yazı yazılırken beta yazılımdır ve ağrı noktaları bunu yansıtır.

İlk kez indirme ağırdır. llama.cpp, Unsloth runtime ve seçilmiş model kataloğunun paketlenmesi, ilk kurulumun bir model indirmeden önce bile birkaç gigabayt çekeceği anlamına gelir.

Windows desteği Mac’ten daha yenidir. macOS derlemesi en uzun süredir var olmuştur ve her sürümde daha fazla Windows’a özgü düzeltme gösterilmektedir. Eski NVIDIA sürücü yığınına sahip bir Windows makinesinde, bir veya iki yanlış başlamayı bekleyin.

Fine-tune akışı biraz ML akıcılığı varsayar. QLoRA fine-tuning başlatmak daha önce olduğundan daha kolaydır, ancak sihirbaz yine de çoğu kişinin görmek istemediği öğrenme hızı, derece ve veri seti format seçeneklerini ortaya koymaktadır. Unsloth Studio (not defteri varyantı) bunun için daha dostça bir iniş noktasıdır.

Barındırılan bir istemciye hizmet vermek (Claude Code, Codex) çalışır, ancak tek tıklı değildir. Bağlantı noktasını ayarlarsınız, modeli seçersiniz ve uç noktayı istemcinin yapılandırmasına kopyalarsınız. Bir geliştirici için iyidir, hobi için ekstra sürtünmedir.

Telefon istemcisi yok. Web araması ve Derin Araştırma özellikleri masaüstü uygulamada yaşar; aynı uç noktaya erişen iOS veya Android eşlik uygulaması yoktur.

Alternatifler

LM Studio – En Kısa İlk Başlatma İçin En İyi

LM Studio, daha önce hiç yerel model çalıştırmadıysanız, ilk olarak kurulacak olandır. Yerleşik tarayıcıda bir model arayın, İndir’e tıklayın, Yükle’ye tıklayın ve bir sohbet penceresi sizi beklemektedir. Ayrıca, Claude Code, Cursor ve onlarca diğer araçtan bağlantı kurabilecek 1234 numaralı bağlantı noktasında OpenAI uyumlu bir sunucu çalıştırır. Model kataloğu Hugging Face ile entegre edilmiş ve haftalık sürümlerle adım uydurmaktadır.

Nerede eksik kalır: Tescilli ve kapalı kaynak. Uygulama içinde fine-tuning yok. Linux’ta AppImage, macOS ve Windows derlemelerinden bir veya iki sürüm geride kalır.

Fiyatlandırma:

Unsloth’tan Geçiş: LM Studio’yu mevcut GGUF klasörünüze yönlendirin ve bunları keşfeder. Sohbet geçmişi aktarılmaz.

Özet: Hedef “bu gece iyi bir modelle sohbet etmek” ve başka bir gün fine-tuning konusunda endişelenecek olduğunuzda LM Studio’yu seçin.

Ollama – Terminal-First Geliştiricileri İçin En İyi

Ollama, bir komut dosyasının yerel bir LLM’ye ihtiyaç duyduğunda geliştiricilerin aradığı araçtır. Arka plan hizmeti olarak çalışır, 11434 numaralı bağlantı noktasında OpenAI uyumlu bir API ortaya koymaktadır ve ollama pull qwen3:8b komutu Hacker News’in yarısının kas hafızasıdır. Kütüphane, 4.500+ modeli mantıklı nicelik varsayılanlarıyla kapsamaktadır.

Nerede eksik kalır: Birinci taraf sohbet GUI’si yok (bunu Open WebUI veya seçtiğiniz bir istemci ile eşleştirirsiniz). Unsloth veya LM Studio’dan daha fazla teknoloji niceleme formatını benimsemede daha yavaştır.

Fiyatlandırma:

Unsloth’tan Geçiş: Unsloth’tan GGUF’ları API’si aracılığıyla sunun ve yerel olarak çalıştırırken Ollama uyumlu istemcileri Ollama’ya yönlendirin; geçmiş aktarması yok.

Özet: Bir shell komut dosyası veya IDE eklentisinin birincil tüketici olacağı zaman Ollama’yı seçin.

AnythingLLM – Kendi Belgelerinizle Sohbet İçin En İyi

AnythingLLM, yerel LLM’niz çoğunlukla PDF klasörü, Confluence dışa aktarma veya kod deposu hakkında sorulara cevap vermek için olduğunda seçilecek olandır. Uygun bir RAG ardışık düzeni sağlar: chunking, embeddings ve kendi başınıza bağlaması gerekmeyen bir vector store. Ollama, LM Studio, OpenAI ve Anthropic’e çıkarım arka uçları olarak bağlanır, böylece yerel olarak başlayabilir ve donanımı aştığında geçiş yapabilirsiniz.

Nerede eksik kalır: Kurulum, yalnızca sohbet aracından daha karmaşıktır. Masaüstü derlemesi Electron’dur; büyük alımlar sırasında RAM kullanımı ani artışlar gösterebilir.

Fiyatlandırma:

Unsloth’tan Geçiş: Unsloth tarafından sunulan modelleri AnythingLLM’de OpenAI uyumlu arka uç olarak besleyin; belgeler AnythingLLM içinde dizinlenir.

Özet: Asıl kullanım örneği özel bir araştırma yardımcısı olduğunda AnythingLLM’yi seçin.

Jan – Tamamen Açık Kaynak GUI İçin En İyi

Jan, LM Studio’nun kullanım kolaylığına en yakın seçim olup, kapalı kaynak uyarısı olmadan. GGUF ve MLX modellerini yerel olarak çalıştıran, OpenAI uyumlu bir API sunan ve Hugging Face model indirmesini ve büyüyen bir eklenti sistemini destekleyen bir AGPL masaüstü uygulamasıdır. Son sürümler, ekler içeren sohbet ve konuşma başına model geçersiz kılmaları ekledi.

Nerede eksik kalır: Eklenti ekosistemi LM Studio’nunkinden daha küçüktür. Model tarayıcısı bazen yeni yayınlanan nicelikleri kaçırır.

Fiyatlandırma:

Unsloth’tan Geçiş: Aynı GGUF klasörünü paylaşın veya doğrudan Hugging Face’ten indirin. Sohbet geçmişi taşınabilir bir JSON biçimi kullanır.

Özet: Lisans önemli olduğunda ve yine de GUI birincil deneyim istediğinizde Jan’ı seçin.

GPT4All – Tamamen Çevrimdışı Kullanım İçin En İyi

GPT4All, en güçlü adanmış hava boşluğu seçeneği olmaya devam ediyor. Seçilmiş bir model listesini paketler, bunları bir kez indirir ve bundan sonra hiçbir zaman ağla konuşmaz. Küçük modeller, 4 GB RAM’li bir makinede rahatça çalışır, bu da bunu uçaklarda veya sahada zaman geçiren bir dizüstü bilgisayarda tutmak için bir araç kılar.

Nerede eksik kalır: Model kataloğu LM Studio veya Ollama’ndan daha küçüktür. Ek özellikler (ajanlar, eklentiler) sınırlıdır.

Fiyatlandırma:

Unsloth’tan Geçiş: GGUF’ları GPT4All’un modeller dizinine kopyalayın; uygulama sonraki başlatmada bunları keşfeder.

Özet: Çevrimdışı dizüstü bilgisayarda GPT4All’ı seçin ve Unsloth veya LM Studio’nun iş istasyonunun sahibi olmasına izin verin.

Open WebUI – Mevcut Sunucu Üzerindeki En İyi Tarayıcı Arayüzü

Open WebUI, Ollama, LM Studio veya herhangi bir OpenAI uyumlu uç nokta üzerinde oturan tarayıcı tabanlı bir sohbet arayüzüdür. Çok kullanıcılı hesapları, sohbet geçmişi senkronizasyonunu, yüklenen dosyalar üzerinde RAG’ı ve ChatGPT’ye çok benzeyen bir eklenti sistemini ekler. Modelleri kendisi çalıştırmaz, bu da onu ev veya homelab arayüzü olarak faydalı kılar.

Nerede eksik kalır: Ayrı bir çıkarım sunucusu gerektirir. Kurulum Docker birincil ve teknik olmayan kullanıcılar için korkutucu olabilir.

Fiyatlandırma:

Unsloth’tan Geçiş: Open WebUI’yi Unsloth API uç noktanıza yönlendirin; sohbet geçmişi Open WebUI veritabanında kalır.

Özet: Open WebUI’yi hane halı web arayüzü olarak seçin ve Unsloth veya Ollama’nın çıkarım yapmasına izin verin.

Msty – Yerel ve Bulut Sağlayıcılarını Yığınlamak İçin En İyi

Msty “bir sohbet, birçok sağlayıcı” seçimi. Yerel Ollama ve LM Studio, uzak OpenAI, Anthropic, Groq, OpenRouter ve herhangi bir özel uç nokta ile konuşur ve hepsi üzerinde bilgi yığınları (RAG özelliği) oluşturur. Arayüz cilalıdır ve bölünmüş görünüm sohbeti, aynı istemi iki modele yan yana çalıştıran, yerel ve bulut arasında seçim yapmak için yararlıdır.

Nerede eksik kalır: Ücretsiz katman bazı özellikleri sınırlandırır (sınırsız bilgi yığınları ücretlidir). Açık kaynak değil. Fine-tune hikayesi yok.

Fiyatlandırma:

Unsloth’tan Geçiş: Unsloth uç noktasını Msty’de özel OpenAI uyumlu sağlayıcı olarak kullanın.

Özet: Değerin yerel ve bulut modellerinin aynı isteme aslında ne verdiğini karşılaştırmak olduğu zaman Msty’yi seçin.

Nasıl Seçilir

Sıfırdan başlıyorsanız ve 15 dakikada sohbet etmek istiyorsanız LM Studio seçin.

Hedef scripting veya yerel LLM’leri IDE araçlarına bağlamak ise Ollama seçin.

Konu kendi belgelerinizle sohbet etmek, ham bir model değil ise AnythingLLM seçin.

LM Studio’nun GUI ergonomisi önemli olup kapalı kaynak doğru hissetmediğinde Jan seçin.

Çevrimdışı dizüstü bilgisayar için GPT4All seçin.

Open WebUI‘yi bu yıl çalıştıracağınız arka uçtan bağımsız olarak süren aile veya ekip arayüzü olarak seçin.

Fine-tuning hikayesi veya Unsloth’un Dynamic GGUF’larına gün sıfırı erişimi kurmanızın sebebi olduğu zaman Unsloth Desktop’ta kalın.

SSS

LM Studio Unsloth Desktop’tan daha mı iyi?

Saf sohbet ve ilk cevaba daha kısa yol için evet. Fine-tuning veya yeni yayınlanan modeller için gün sıfırı desteği için Unsloth öncü.

Unsloth GGUF’ları Ollama veya LM Studio’da kullanabilir miyim?

Evet. Unsloth, Dynamic GGUF’larını Hugging Face üzerinde yayınlar. Bu listedeki her araç bunları yükleyebilir.

En hafif Unsloth alternatifi nedir?

Küçük ucunda GPT4All (4 GB RAM), GUI’ye ihtiyaç duymadığınızda ortada Ollama.

Herhangi bir alternatif fine-tuning’i destekliyor mu?

Unsloth’un yaptığı şekilde değil. Fine-tuning Unsloth’un uzmanlığıdır; buradaki alternatifler çıkarıma odaklanır. Unsloth dışında fine-tuning için çoğu kişi LlamaFactory veya Colab not defterine geçer.

Bunları Unsloth’un yanında çalıştırabilir miyim?

Evet. Ollama, LM Studio ve Open WebUI, her biri farklı bir bağlantı noktasına bağlı olduğu sürece Unsloth ile aynı makinede iyi bir şekilde bir arada yaşarlar.