Yerel bir LLM çalıştırmak evde olduğunuz sürece mantıklıdır. Model evde bir makinede oturuyorken, istek 5000 mil uzaklıkta bir dizüstü bilgisayarda, ve yönlendiricideki 11434 portunu açmak cevap değildir. Aşağıdaki araçlar bu sorunu çözer: Ollama veya llama.cpp’yi sadece cihazlarınıza açığa çıkarın, şifreli, genel IP olmadan.
Üç yerel LLM kurulumuna karşı yedi ağ mesh, tünelleme ve ağ geçidi uygulaması test ettik (bir iş istasyonunda Ollama, mini PC’de llama.cpp ve Docker konteynerinde Open WebUI). Aşağıda kahvehane veya otel WiFi’den evde barındırılan bir modeli sorgulamak istediğinizde gerçekten çalışanlar, kurulum çabası ve güvenilirliğe göre sıralanmıştır.
Uzak LLM erişim aracında ne arayacağınız
Seçim temelde beş şeye indirgeniyor.
- Yapılandırmasız vs ağır yapılandırma. Tailscale ve Twingate NAT geçişini otomatik olarak işler. WireGuard port yönlendirmesi gerektirir.
- Gecikme. Doğrudan eşler arası bağlantılar relede yönlendirilenleri yener. Tailscale doğrudan tercih eder; Cloudflare Tunnel her zaman rele kullanır.
- Token akış performansı. Bazı tüneller yanıtları kötü bir şekilde arabelleğe alır ve Ollama akış UX’ini yok eder. Uzun istekle test edin.
- Kimlik doğrulama modeli. SSO entegrasyonu modeli bir ekiple paylaşıyorsanız önemlidir; kişisel kullanım sadece bir cihaz listesine ihtiyaç duyar.
- Bant genişliği maliyeti. Ücretsiz planlar trafiği sınırlar. Tek bir 8K-token Llama 3 yanıtı küçüktür; günde 100 sohbet, her biri 8K token yine de herhangi bir ücretsiz plana uyar.
Hızlı karşılaştırma
| Uygulama | Şu için en iyisi | Platformlar | Ücretsiz plan | Başlangıç fiyatı/ay | Derecelendirme |
|---|---|---|---|---|---|
| Tailscale | Yapılandırmasız ağ mesh | Çapraz platform | 100 cihaz ücretsiz | Yaklaşık $6/ay Kişisel Pro | 4.8 |
| ZeroTier | Özel ağ topolojisi | Çapraz platform | 25 cihaz ücretsiz | Yaklaşık $5/ay Pro | 4.5 |
| Cloudflare Tunnel | Port açmadan genel URL | Çapraz platform | Sınırsız ücretsiz | Ücretsiz | 4.6 |
| Twingate | Kimlik doğrulama politikaları ile ZTNA | Çapraz platform | 5 kullanıcı ücretsiz | Yaklaşık $10/kullanıcı/ay | 4.4 |
| Netbird | Açık kaynak Tailscale eşi | Çapraz platform | 100 eş ücretsiz | Kendi barındırılan ücretsiz | 4.4 |
| WireGuard | Ham mesh, bağımlılık yok | Çapraz platform | Tamamen ücretsiz | Ücretsiz | 4.7 |
| Open WebUI | Kimlik doğrulamalı yerel LLM ön ucu | Docker | Tamamen ücretsiz | Ücretsiz | 4.6 |
Uygulamalar
1. Tailscale — En iyi yapılandırmasız ağ mesh
Tailscale “Ev LLM’ine neredeyse erişebilirim” sorusunun varsayılan yanıtıdır. LLM ana makinesine istemci yükleyin, dizüstü bilgisayarınıza yükleyin, her ikisinde de oturum açın, ve iki cihaz Tailscale ana bilgisayar adlarıyla konuşur. Port yönlendirmesi yok, dinamik DNS yok, manuel güvenlik duvarı kuralları yok.
Doğrudan eşler arası bağlantı, Ollama yanıtı akışı için neden iyi çalıştığıdır. Gecikme çoğu ev bağlantısında 30ms altında kalır. Eşler doğrudan bağlanamadığında (taşıyıcı sınıfı NAT arkasında), Tailscale DERP geçişlerine geri döner, bu gecikme ekler ancak bağlantıyı hiçbir zaman kesmez.
Nerede eksik kalır: Ücretsiz katman cömert ancak tek bir sahibe bağlıdır. Ayrı hesaplardaki iş arkadaşlarına bir model sunmak Pro katmanı veya paylaşılan düğüm gerektirir.
Fiyatlandırma:
- Ücretsiz: 100 cihaz, 3 kullanıcı
- Ücretli: Yaklaşık $6/ay Kişisel Pro, $6/kullanıcı/ay İşletme
Platformlar: Windows, macOS, Linux, iOS, Android
İndir: Tailscale
Özet: Bunu önce kurun. Uzak LLM erişiminin %90’ını 5 dakikalık kurulumla çözer.
2. ZeroTier — Özel ağ topolojisi için en iyisi
ZeroTier Tailscale’den önce gelir ve ağ şekli üzerinde daha fazla kontrol verir. Cihaz başına birden fazla ağ, ağ başına akış kuralları ve IP şeması özelleştirmesi hep web konsolundan çalışır. Takas, ev LLM kullanım örneği için daha fazla kurulumu.
Doğrudan eşler arası performans Tailscale’e benzer. Ana çekicilik, zaten ZeroTier çalıştırıyorsanız ve aynı ağda LLM istiyorsanız.
Nerede eksik kalır: Kullanıcı arayüzü Tailscale’den daha yoğundur. Yeni cihazları ekleme ekstra bir onay adımı gerektirir.
Fiyatlandırma:
- Ücretsiz: Ağ başına 25 cihaz
- Ücretli: 100 cihaz için yaklaşık $5/ay, oradan yukarıya
Platformlar: Windows, macOS, Linux, iOS, Android, FreeBSD
İndir: ZeroTier
Özet: Zaten ZeroTier kullanıyorsanız veya LLM trafiğinizde akış başına ACL’ler istiyorsanız en iyi seçim.
3. Cloudflare Tunnel — Port açmadan genel URL için en iyisi
Herhangi bir URL ve kimlik bilgisiyle birinin vurabildiği gerçek bir URL (ollama.yourdomain.com gibi) istiyorsanız, Cloudflare Tunnel bunu yönlendiricideki port açmadan yapar. Tünel Cloudflare kenarına dış olarak bağlanır ve Cloudflare trafiği ziyaretçilere sunar.
Zero Trust erişim politikaları URL’yi e-posta, IP aralığı veya GitHub takımı tarafından sınırlandırmanıza izin verir. Bu, bir gruba bir modeli paylaşmak istediğinizde ancak herkese ağ mesh istemcisi vermek istemediğinizde cevaptır.
Nerede eksik kalır: Tüm trafik Cloudflare kenarından geçer, bu nedenle gecikme doğrudan eşlere göre daha kötüdür. Akış yanıtları çalışır ancak 100-200ms yükü görür.
Fiyatlandırma:
- Ücretsiz: Kişisel için sınırsız bant genişliği
- Ücretli: Zero Trust 50 kullanıcı sonrasında ücretli koltuk ekler
Platformlar: Cloudflared Windows, macOS, Linux üzerinde çalışır; tarayıcılar herhangi bir platformda
İndir: Cloudflared
Özet: Özel bir ana bilgisayar adı değil, yer işareti yapılacak gerçek bir URL istiyorsanız Tailscale üzerinde bunu seçin. Daha yavaş ancak paylaşmak daha kolay.
4. Twingate — SSO politikası olan takımlar için en iyisi
Twingate SSO kimlik doğrulamasının arkasındaki belirli kaynakları (host+port çiftleri) kısıtlayan bir Zero Trust Ağ Erişim ürünüdür. Yönetim konsolunda LLM ana makinesini yapılandırın, politikalar atayın (bu Google grubu erişim sağlayabilir), ve kullanıcılar Twingate istemcisinden oturum açar.
Bölünmüş tünelleme Tailscale’den daha güçlüdür; sadece kapalı kaynaklar için trafik Twingate’den geçer. Her şey başka internet doğru kullanır.
Nerede eksik kalır: Ücretsiz katman 5 kullanıcı ile sınırlanmıştır. Tek kişi ev LLM kurulumu için fazla.
Fiyatlandırma:
- Ücretsiz: 5 kullanıcı, 10 cihaz
- Ücretli: Yaklaşık $10/kullanıcı/ay İşletme
Platformlar: Windows, macOS, Linux, iOS, Android
İndir: Twingate
Özet: Küçük bir takım yerel LLM paylaştığında ve SSO destekli erişim kontrolü istediğinizde en iyi seçim.
5. Netbird — En iyi açık kaynak Tailscale eşi
Netbird Tailscale için en yakın açık kaynak plug-and-play değiştiricisidir. Aynı ağ mesh modeli, aynı otomatik NAT geçişi, aynı istemci deneyimi, ancak koordinasyon sunucusu kendi kendine barındırılabilir. Kendi VPS’inizde çalıştırın ve hiç bir üçüncü taraf ağınızın şeklini bilmez.
Barındırılan ücretsiz katman 100 eştir, bu nedenle kişisel kurulum asla sınıra ulaşmaz.
Nerede eksik kalır: Tailscale’den daha genç proje, bu nedenle mobil istemciler cilalı kaldı. Kendi kendine barındırma ops yükü ekler.
Fiyatlandırma:
- Ücretsiz: Netbird barındırılan hizmetinde 100 eş
- Ücretli: Kendi kendine barındırma ücretsiz; Barındırılan İşletme katmanı yaklaşık $8/kullanıcı/ay’dan başlar
Platformlar: Windows, macOS, Linux, iOS, Android
İndir: Netbird
Özet: Tailscale beğeniyor ancak koordinasyon sunucusu kendi donanımınızda istiyorsanız bunu seçin.
6. WireGuard — Ham performans ve bağımlılık olmayan en iyisi
WireGuard Tailscale, Netbird ve çoğu modern mesh VPN’leri temel alan protokoldür. Bunu doğrudan çalıştırmak (koordinasyon katmanı olmadan) manuel eş yapılandırması ve LLM ana makinesinde statik IP veya dinamik DNS anlamına gelir.
Evde statik IP’si olan teknik bir kullanıcı için bu en düşük yük seçenek. Hesap yok, koordinasyon sunucusu yok, üçüncü taraf güveni yok.
Nerede eksik kalır: Her cihaz çifti manuel anahtar değişimi gerektirir. NAT geçişi size bağlı. Yeni cihaz eklemek bir yapılandırma dosyası düzenlemesidir.
Fiyatlandırma:
- Ücretsiz: Açık kaynak
- Ücretli: Hiçbiri
Platformlar: Windows, macOS, Linux, iOS, Android
İndir: WireGuard
Özet: Kontrol için en iyisi, kolaylık için en kötü. Diğer hizmetler için zaten WireGuard çalıştırıyorsanız bunu kullanın.
7. Open WebUI — Yerleşik kimlik doğrulama ile en iyi yerel LLM ön ucu
Ollama’nın ham portunu tünellendirmek yerine, aynı makinede ön uç olarak Open WebUI çalıştırın ve sadece WebUI’yi açığa çıkarın. Kullanıcı hesapları, kullanıcı başına sohbet geçmişi, RAG belge alımı ve temiz ChatGPT tarzı arayüz ile gelir.
Özel erişim için Tailscale ile kombinasyon yapın veya genel URL için kapı olarak WebUI’nin kendi kimlik doğrulama katmanı ile Cloudflare Tunnel ile.
Nerede eksik kalır: Docker konteyner ve devam eden güncellemeler ekler. Ekstra atlama nedeniyle akış için ham Ollama’dan biraz daha yavaş çalışır.
Fiyatlandırma:
- Ücretsiz: Açık kaynak
- Ücretli: Hiçbiri
Platformlar: Docker (herhangi bir Linux, macOS, Windows ana makinesinde çalışır)
İndir: Open WebUI
Özet: En iyi kombinasyon deneyimi için Tailscale ile eşleştirin. WebUI kimlik doğrulama ve UX’i işler; Tailscale ağı işler.
Doğru olanı nasıl seçersiniz
En hızlı kurulum istiyorsanız: Tailscale, artı LLM ana makinesinde Ollama. Baştan sona on dakika.
Paylaşmak için gerçek URL istiyorsanız: Cloudflare Tunnel, Zero Trust politikaları ile sınırlı.
Takım iseniz: SSO kontrollü erişim için Twingate veya Tailscale Business.
Her şeyi kendi barındırdıysanız: Kendi koordinasyon sunucunuzda Netbird veya statik IP’niz varsa ham WireGuard.
Yerel LLM yığınarınız Ollama veya llama.cpp ise: Ayrıca Open WebUI yükleyin. Ham curl veya API istemcileri üzerinde UX farkı anlamlıdır ve yerleşik kimlik doğrulama ekstra tesisat olmadan bir tünel üzerine koyabileceğiniz anlamına gelir.
SSS
Tailscale aracılığıyla Ollama’yı açığa çıkarmak güvenli midir? Evet. Tailscale trafiği WireGuard ile uçtan uca şifreli ve sadece Tailnet cihazlarınız Ollama portuna ulaşabilir. Ollama’nın kendisinin kimlik doğrulaması yoktur, bu nedenle özel ağ güvenlik çalışmasını yapıyor.
Cloudflare Tunnel üzerinde akış çalışıyor mu? HTTP akışı için evet (sunucu tarafından gönderilen olaylar). Ollama’nın varsayılan akış yanıtı çalışır. WebSockets de çalışır ancak SSE yolundan biraz daha yüksek gecikme ile.
Bu araçları statik IP veya port yönlendirmesi olmadan kullanabilir miyim? Tailscale, ZeroTier, Cloudflare Tunnel, Twingate ve Netbird için evet. Hepsi NAT geçişi veya yalnızca dış tünelleri işler. Tek başına WireGuard statik IP veya dinamik DNS gerektirir.
Yerel LLM sohbeti ne kadar bant genişliği kullanır? Ollama üzerinden 8K token yanıtı sıkıştırılmış 100KB’tan azdır. Günde 1000 sohbet bile 100MB’tan azdır, herhangi bir ücretsiz planın içinde iyi.
ISP’m CGNAT kullanıyorsa ne olur? Doğrudan bağlantı imkansız olduğunda Tailscale ve Netbird geçiş sunucularına geri döner. Cloudflare Tunnel çalışıyor çünkü sadece dış. Tek başına WireGuard genel uç nokta olmadan çalışmayacak.
Bunu arkadaşlara yerel LLM açığa çıkarmak için kullanabilir miyim? Twingate ve Cloudflare Tunnel Zero Trust desteği kullanıcı başına erişim politikası. Tailscale düğüm paylaşımı ile belirli kullanıcılara düğüm paylaşabilir. Open WebUI bunların herhangi birinin üstüne kullanıcı başına sohbet izolasyonu ekler.
