Eski dizüstü bilgisayarda yerel özel AI için Ollama

XDA’nın eski bir dizüstü bilgisayarı tüm ev için bir özel AI asistanına dönüştürme hakkındaki yazısı, birçoğumuzun ihtiyaç duyduğu vaka çalışmasıdır. 32 GB RAM ve entegre GPU’ya sahip 2020 döneminin bir ThinkPad’i, modern 7B veya 13B modelleri konuşma hızında çalıştırmak, ev için bir sohbet arayüzü barındırmak ve kişi başına aylık $20 bulut AI ödemesini bırakmak için yeterlidir. Bunlar, 2026 yılında eski bir dizüstü bilgisayarda tüm ev için bir özel AI asistanı oluşturmak için en iyi masaüstü uygulamalarıdır; çalışma zamanı, sohbet arayüzü ve operatörün terminali dışında yerel AI’yi gerçekten faydalı hale getiren aile dostu erişim kombinasyonu için seçilmiştir.

Bir ev AI yığınında neye bakılması gerekir

Tüm ailenin gerçekten kullandığı özel bir AI asistanı şunları kapsamalıdır:

Hızlı karşılaştırma

Uygulama En İyisi Çalışma Zamanı Sohbet Arayüzü API Sunucu Maliyet
Ollama Herkese yapı temeli olan temel çalışma zamanı Ollama CLI + community UIs Evet Ücretsiz
LM Studio GUI odaklı yerel modeller llama.cpp Evet Evet Ücretsiz
Open WebUI Ollama’nın önündeki ev sohbet arayüzü Herhangi biri (Ollama, OpenAI) Evet (çok kullanıcılı) Proxies Ücretsiz
GPT4All En basit tek kullanıcılı yerel sohbet llama.cpp Evet İsteğe bağlı Ücretsiz / Pro $5/ay
Jan Açık kaynak ChatGPT değişimi llama.cpp / Ollama Evet Evet Ücretsiz
Text Generation WebUI Power-user model ince ayarı ve format desteği Çoklu Evet Evet Ücretsiz
Home Assistant with Local LLM Ollama üzerinde ses tarafından yönlendirilen ev AI Ollama backend Ses + Sohbet via Ollama Ücretsiz

Eski dizüstü bilgisayarda özel ev AI için 7 en iyi uygulama

1. Ollama, herkese yapı temeli olan temel çalışma zamanı olarak en iyi

Ollama, yerel LLM’leri tek komut kurulumuna dönüştüren çalışma zamanıdır. ollama run llama3.1 bir modeli indirir, yükler ve 11434 numaralı bağlantı noktasında OpenAI uyumlu bir API ile sunar. Model kütüphanesi seçilmiştir (Llama, Mistral, Phi, Qwen, Gemma ve topluluk ince ayarları) ve çalışma zamanı otomatik olarak NVIDIA CUDA, AMD ROCm veya Apple Metal’i algılar ve kullanır.

RTX 3060 (veya Apple M2 ve üstü) ile bir dizüstü bilgisayarda, 13B model konuşma hızında çalışır. Yalnızca CPU’da, Phi-3 Mini gibi 3B sınıfı modeller kullanılabilir kalır.

Eksiklikleri: Tek başına yalnızca komut satırı; ev kullanımı için üzerine bir sohbet arayüzü gerekir. Seçilmiş model listesi ham GGUF evreninden daha dardır. Windows’ta Docker kurulumu tercih edilir.

Fiyatlandırma:

Platformlar: Windows, macOS, Linux

İndir: ollama.com

Sonuç: 2026’da herhangi bir özel-AI ev kurulumunun varsayılan çalışma zamanı.

2. LM Studio, GUI odaklı yerel modeller için en iyi

LM Studio, Ollama’nın GUI rakibidir. Hugging Face’ten tıklayarak model indir, konuşma başına model seçimi ile bir sohbet paneli ve bir onay kutusuyla başlayan OpenAI uyumlu sunucu. LM Studio, bağlam uzunluğu, niceleme ve GPU uzaklığı sayısı için model başına önerilerle birlikte gelir.

Terminal yerine Windows tarzı bir uygulamayı tercih eden bir operatör için, LM Studio temiz kurulumdan çalışan yerel bir modele gitmek için en kısa yoldur.

Eksiklikleri: Tasarım gereği tek kullanıcılı; bir ev sohbet arayüzü değil. Model yönetimi makine başına, merkezi olmayan. Tamamen açık kaynak değil (açık çalışma zamanlarının etrafında tüzel kişiliğe ait masaüstü uygulaması).

Fiyatlandırma:

Platformlar: Windows, macOS, Linux

İndir: lmstudio.ai

Sonuç: Çok kullanıcılı bir sunucu kurmadan önce yerel modelleri öğrenen biri için doğru seçim.

3. Open WebUI, Ollama’nın önündeki ev sohbet arayüzü olarak en iyi

Open WebUI, Ollama sunucusunu tüm ev tarafından kullanılabilir hale getiren şeydir. Çok kullanıcılı hesaplar, kullanıcı başına sohbet geçmişi, model değiştirici, RAG belge yükleme, komut kütüphanesi ve rol tabanlı izinler - hepsi kendi kendine barındırılan bir web arayüzünde yaşar. Bir Ollama uç noktasını (yerel veya LAN üzerinde) gösterin ve ailenin her üyesi geçmiş paylaşmadan ChatGPT benzeri bir deneyim alır.

Ollama ile aynı dizüstü bilgisayarda Docker konteyner olarak çalışır veya LAN üzerinde onunla konuşan ayrı bir makinede.

Eksiklikleri: Docker kurulumu önerilen yoldur (çıplak Node mümkün ancak daha zordur). Whisper eklentisi aracılığıyla ses girişi, yerel değil. Sohbet geçmişi depolaması yoğun kullanımla hızla artar.

Fiyatlandırma:

Platformlar: Docker, Linux, Windows (Docker Desktop aracılığıyla), macOS (Docker Desktop aracılığıyla)

İndir: docs.openwebui.com

Sonuç: Ollama’yı bir ev hizmetine dönüştürmek için en önemli eklenti.

4. GPT4All, en basit tek kullanıcılı yerel sohbet için en iyi

GPT4All, Nomic’in yerel merkezli sohbet uygulamasıdır: yükleyiciyi indirin, model seçin, sohbet edin. Arayüz hiç terminal dokunmayan biri için oluşturulmuştur ve model kütüphanesi topluluk tarafından uyarlanmış Llama, Mistral, Phi ve Falcon varyantlarını kapsar.

Sunucu kurmadan kendi yerel AI’sini isteyen bir ebeveyn veya teknik olmayan ortağın iyi bir seçeneği.

Eksiklikleri: Paylaşılan sunucu değil; her makinenin kendi modeli ve geçmişi vardır. Model kütüphanesi Ollama’nınkinden daha küçüktür. Pro katmanı “tamamen yerel” öncülünü baltalayan bulut özelliklerini ekler.

Fiyatlandırma:

Platformlar: Windows, macOS, Linux

İndir: gpt4all.io

Sonuç: Bir kişinin yerel AI ve başka bir şey istediği bir dizüstü bilgisayar için doğru seçim.

5. Jan, açık kaynak ChatGPT değişimi için en iyi

Jan, llama.cpp aracılığıyla yerel modelleri çalıştıran veya uzak uç noktalara (OpenAI, Anthropic, Groq veya yerel Ollama) bağlanan tamamen açık kaynak bir masaüstü sohbet uygulamasıdır. Arayüz ChatGPT’ye yakın, sohbetler, klasörler ve sistem prompt ön ayarları ile ve Jan’ın felsefesi “verileriniz makinenizde kalır.”

Farklı aile üyelerinin farklı arka uçlar (bazıları yerel, bazıları uzak) istediği bir ev için, Jan her ikisini temizce yönetir.

Eksiklikleri: Daha yeni proje; Windows kurulumunda bazı kaba kenarlar. Çok kullanıcılı destek Open WebUI’den daha incedir. Bazı eklentiler deneyseldir.

Fiyatlandırma:

Platformlar: Windows, macOS, Linux

İndir: jan.ai

Sonuç: Bir evin yerel veya hibrit olabilen ChatGPT tarzı bir uygulama istediği zaman doğru seçim.

6. Text Generation WebUI, power-user model ince ayarı ve format desteği için en iyi

Text Generation WebUI (oobabooga), power user’lar için araçtır. Transformers, ExLlamaV2, llama.cpp ve MLX arka uçlarını destekler, her örnekleyiciyi ve çıkarım ayarını açığa çıkarır ve GGUF, GPTQ, EXL2 ve AWQ formatlarını işler. LoRA eğitimi ve karakter kartı RP yerleşikdir.

Operatör eski bir GPU’dan her token/sn sıkmak veya Ollama kütüphanesinde olmayan niş ince ayarları çalıştırmak istediğinde doğru seçim.

Eksiklikleri: Dik öğrenme eğrisi. Arayüzde yeni kullanıcıları boğan yıllar boyunca yığılmış özellikler var. Çok kullanıcılı destek sınırlıdır.

Fiyatlandırma:

Platformlar: Windows, macOS, Linux

İndir: github.com/oobabooga/text-generation-webui

Sonuç: Hedef her çıkarım detayı üzerindeki kontrol olduğunda doğru seçim.

7. Home Assistant with Local LLM, Ollama üzerinde ses tarafından yönlendirilen ev AI için en iyi

Home Assistant Local LLM entegrasyonu ile, Ollama sunucusunu ses tarafından yönlendirilen ev AI’ına dönüştürür: hava durumu hakkında sorun, ışıkları kontrol edin, takvimi sorgulayın veya akıllı bir hoparlör veya HA uygulaması aracılığıyla normal bir konuşma yapın. Assist Pipeline Whisper transkripsiyonunu, Ollama’da LLM çıkarımını ve hoparlöğe TTS’yi - hepsi ev ağı içinde - yönetir.

“Hey house, what’s on the schedule today” istenen UX’i olan bir aile için, bu her şeyi bir araya getiren katmandır.

Eksiklikleri: Kurulum iki projeyi (Home Assistant + Ollama) geçer ve her ikisinin de sağlıklı olması gerekir. Hoparlör seçimi önemlidir (Wyoming uyumlu mikrofon en pürüzsüz). Gecikme modele bağlıdır; daha küçük modeller daha hızlı hissettirir.

Fiyatlandırma:

Platformlar: Home Assistant OS, Docker, Linux, Windows, macOS

İndir: www.home-assistant.io ve Ollama entegrasyonu

Sonuç: Ses tarafından yönlendirilen ev AI amaç olduğunda doğru seçim, sadece bir sohbet penceresi değil.

Doğru olanı nasıl seçersiniz

Tamamen aile dostu bir kurulum için, Ollama‘yı çalışma zamanı ve Open WebUI‘yi önünde çok kullanıcılı sohbet arayüzü olarak yükleyin. Bu, dizüstü bilgisayardan sunucuya dönüştürülen kişi için doğru yığındır.

Operatörün kendi tek makineli kullanımı için, LM Studio en kolay kurulumdur ve çoğu günlük ihtiyacını kapsar.

Kendi dizüstü bilgisayarı olan teknik olmayan bir aile üyesi için, GPT4All en uygun tek kullanıcılı kurulumdur.

Yerel ve uzak AI arka uçları arasında bölünen bir ev için, Jan doğru sohbet arayüzüdür.

Power-user ince ayarı ve niş model formatları için, Text Generation WebUI derin araçtır.

Ses tarafından yönlendirilen ev AI’ı için, Home Assistant with Local LLM entegrasyonu Ollama’yı ev ses ekosisteminin içine bağlar.

SSS

Ev AI sunucusu için hangi eski dizüstü bilgisayar yeterlidir? 2020 veya daha yeni herhangi bir dizüstü bilgisayar 16 GB RAM veya daha fazla ile, CPU’da kullanılabilir hızda 7B model çalıştırabilir. Ayrı bir GPU (hatta 2018 GTX 1660) ekleyin ve 13B konuşma hızında çalışır.

Yerel AI kalitede ChatGPT’yi yener mi? Model sınıfının tepesinde değil. İyi nicelenmiş 13B model kabaca GPT-3.5 sınıfıdır; 70B model GPT-4 sınıfına yaklaşır ancak 24 GB veya daha fazla VRAM gerekir. Çoğu ev görevi için (e-posta taslakları, belge özeti, beyin fırtınası) yerel modeller yeterli olmaktan fazladır.

Yerel modeller güncellenmiş mi kalır? Çalışma zamanları sık güncellenir (Ollama’da haftalık sürüm temposu). Modellerin kendileri sürüme alınmıştır; güncelleme yeni bir etiket indirmek anlamına gelir.

İlk kurulum ne kadar bant genişliğini kullanır? 7B modeli 4–6 GB; 13B modeli 8–12 GB. Operatör küçük bir kütüphane isterse 20 GB indirme planlayın.

Seyahat ederken ev bu işi VPN olmadan kullanabilir mi? Evet, ancak yalnızca operatör sunucuyu internete açarsa. Tailscale, bağlantı noktaları açmadan LAN dışından ev AI sunucusuna ulaşmanın en temiz yoludur.

Sohbet geçmişim gerçekten özel mi? Yalnızca çalışma zamanı doğru şekilde ayarlandıysa. Ollama, LM Studio, GPT4All ve Jan’ın hepsi tamamen yerel olarak varsayılan olarak; Open WebUI geçmişi aynı makinedeki kendi veritabanında depolar. Herhangi bir bulut bağlayıcıyı (Pro katmanları, uzak model arka uçları) etkinleştirmek verileri kutudan çıkarır.