XDA’daki yazı, birçok ana sayfa haline geldi ve birçok Obsidian kullanıcısının sessizce test ettiği bir noktayı vurguladı: 8 veya 12 GB RAM’e sahip modern bir Android telefonu, 3 milyar parametreli bir modeli okunabilir hızda, tamamen çevrimdışı çalıştırabiliyor ve Obsidian ile eşleştirildiğinde, kasa bir günlük ile aranabilir ikinci beyin arasında bir şeye dönüşüyor. Bulut gezintileri yok, token başına fatura yok, uçakta veya metro yolculuğunda gereken sinyal yok.
Bu eşleştirmeyi uygulamada çalışan 7 Android uygulamasını test ettik. Aşağıdaki her uygulama, modeli cihazda çalıştırır, telefonda saklanan Obsidian kasa ile bağlanır ve ağ bağlantısı olmadan yararlı kalır.
Neyi Aramalı
- Cihaz üzerinde çıkarım. Uygulama bir API’yi çağırırsa, test ettiğimiz araç bu değildir.
- Makul modeller. Q4-quantised 3B veya 7B tatlı noktadır; daha büyük herhangi bir şey takas öldürür.
- Kasa erişimi. Obsidian kasa dosya sistemine doğrudan erişim, her zaman kopyala-yapıştırdan iyidir.
- İstem hızı. Saniyede 15 tokenden az, bir cümleden daha uzun herhangi bir şey için kullanılamaz.
- Pil davranışı. 30% CPU’da iki dakika alan bir nesil iyidir; 100% de on dakika alan bir değildir.
- Makul varsayılanlar. Şablonlar, etiket farkında arama ve uygulama kapatmasından kurtulacak sohbet geçmişi.
Hızlı karşılaştırma
| Uygulama | Neyin için en iyi | Ücretsiz plan | Öne çıkan özellik | Derecelendirme |
|---|---|---|---|---|
| Obsidian | Kasa kendisi, telefonda | Evet | Yerel eklentilerle masaüstü ve mobilde aynı kasa | Aptoide’da 4,7 yıldız |
| MLC Chat | Sohbet için cihaz üzerinde en hızlı çıkarım | Evet (açık kaynak) | Makul hızda Vulkan-hızlandırılmış 3B ve 7B modeller | Yalnızca sideload |
| PocketPal AI | Yerel LLM’ye yeni başlayanlar için en iyi | Evet (açık kaynak) | Uygulama içinden Hugging Face’ten GGUF indirir | 4,4 yıldız |
| Layla | Herhangi bir dosya üzerinde yerel RAG ile sohbet | Ücretsiz katman | Kurulum olmadan notlarınız üzerinde küçük bir model çalıştırır | 4,3 yıldız |
| Ollama in Termux | Telefonda tam Ollama sunucusu, ileri kullanıcılar için | Evet (açık kaynak) | Masaüstüyle aynı API, bu nedenle eklentiler çalışır | Yalnızca sideload |
| Smart Composer (Obsidian eklentisi) | Obsidian mobil’den yerel modele erişim | Evet (açık kaynak) | Herhangi bir OpenAI uyumlu uç noktayla konuşur, yerel Ollama dahil | Ücretsiz eklenti |
| Text Generator (Obsidian eklentisi) | Yerel modellere karşı şablonlu istemler | Evet (açık kaynak) | Herhangi bir notu değişkenlerle isteme dönüştürür | Ücretsiz eklenti |
Android’de Obsidian ile yerel LLM için 7 en iyi uygulama
1. Obsidian — en iyi çünkü aşağıdaki her şey kasa karşısında çalışır
Obsidian, Android’de masaüstü ile aynı Markdown kasasını taşır, Obsidian Sync, Syncthing veya kendi barındırılan Git uzak aracılığıyla senkronize edilir ve tarayıcı API’si gerektirmeyen çoğu eklentiyi çalıştırır. Yerel eklentiler, kasa başka bir yerde olsa bile yapay zeka katmanının telefonda kalması anlamına gelir.
Başarısız olduğu yerler: Masaüstü ortamını varsayan topluluk eklentileri sessizce başarısız olur. iCloud kullanıcıları Android iCloud’u görmediği için Obsidian Sync veya Working Copy’ye güvenmek zorundadır.
Fiyatlandırma:
- Ücretsiz: yerel kasalarla tam uygulama
- Ödeme: Obsidian Sync (isteğe bağlı) şifreli kasa senkronizasyonu için
Platformlar: Android, iOS, Windows, macOS, Linux
İndir: obsidian.md — ayrıca Aptoide ve Google Play‘de mevcuttur
Sonuç: Obsidian’ı ilk önce seçin, çünkü buradaki her yapay zeka eklentisi telefonda oturan bir kasayı hedefler.
2. MLC Chat — en iyi cihaz üzerinde çıkarım hızı
MLC Chat, MLC LLM projesi tarafından derlenen modeller sağlar ve Vulkan aracılığıyla telefonun GPU’sunda çalışır. Phi-3.5-mini gibi 3B model, Snapdragon 8 Gen 3’te 20+ token/saniye üretir ve 7B Q4 kwant, flaman telefonlarda kullanılabilir. Sohbetler yerel olarak yaşar, hesap gerekmez.
Başarısız olduğu yerler: Yalnızca sideload, model kataloğu PocketPal’dan küçüktür ve özel model eklemek masaüstünde derleme adımı gerektirir.
Fiyatlandırma:
- Ücretsiz: Apache 2.0 altında açık kaynak
- Ödeme: Hiçbiri
Platformlar: Android (sideload APK)
İndir: llm.mlc.ai
Sonuç: Telefonda en hızlı yerel oluşturma istediğinizde ve sideload APK’dan rahat olduğunuzda MLC Chat’ı seçin.
3. PocketPal AI — yerel LLM’ye yeni başlayanlar için en iyi yol
PocketPal AI, yerel model yoluna girmesinin en kolay yoludur. Uygulamayı kurun, Hugging Face’ten seçkin GGUF modeller kümesine göz atın, indirmek için dokunun ve sohbet etmeye başlayın. Şablonlar, kutudan çıktığında çoğu model ailesini kapsar, bu nedenle ilk kez kullanıcı telefonun ekranında chat_template JSON’unu düzenlemez.
Başarısız olduğu yerler: llama.cpp aracılığıyla yalnızca CPU çıkarımı, bu nedenle hızlar aynı donanımda MLC Chat’tan daha düşüktür. Kasa erişimi, bir Obsidian eklentisiyle eşleştirmediğiniz sürece kopyala-yapıştırdır.
Fiyatlandırma:
- Ücretsiz: MIT altında açık kaynak
- Ödeme: Hiçbiri
Platformlar: Android, iOS
İndir: Google Play
Sonuç: Bu, telefonda ilk kez model çalıştırmışsanız PocketPal’ı seçin.
4. Layla — sohbetin notlarınızı görmesi gerektiğinde en iyi
Layla, yerel olarak küçük modeller çalıştırır ve üzerine hafif bir alıntı artırımlı adım yerleştirir, böylece bir istem, işaret ettiğiniz notlara veya PDF’lere başvurabilir. Obsidian kullanıcısı için bu, “geçen haftanın notlarını özetle” hiçbir eklenti çalışması olmadan çalışır, kasa Layla’nın okuyabileceği bir klasörde olması koşuluyla.
Başarısız olduğu yerler: Küçük modelde RAG kalitesi eşitsizdir. Ücretsiz katman model boyutunu sınırlandırır; ödeme yapılan katman bunu kaldırır. UI cilası PocketPal’ın gerisinde kalır.
Fiyatlandırma:
- Sınırlı modeller ile ücretsiz katman
- Ödeme: Tek seferlik yükseltme daha büyük modellerin kilidini açar
Platformlar: Android, iOS
İndir: Google Play
Sonuç: Hedef “notlarım hakkında sorulara cevap ver” ise ve kendi başınıza boru hattı oluşturmak istemiyorsanız Layla’yı seçin.
5. Ollama in Termux — masaüstünü yansıtan en iyi ileri kullanıcı kurulumu
Ollama‘yı Termux içine kurmak, telefonu masaüstüde çalışan aynı HTTP sunucusu verir, geri döngü arabiriminde. Ollama’yla konuşan herhangi bir Obsidian eklentisi, doğrudan onunla konuşur. Pil daha ağırdır çünkü Termux zarif bir şekilde çıkmaz, ancak performans aynı telefonda çoğu GUI çalıştırıcısını yener.
Başarısız olduğu yerler: Play Store’daki Termux modası geçmiş; F-Droid veya resmi GitHub derlemesinden sideload yapın. Ön planda hizmet izinleri dikkat gerektirir ve termal azaltma uzun nesilleri hurting olabilir.
Fiyatlandırma:
- Ücretsiz: açık kaynak
- Ödeme: Hiçbiri
Platformlar: Android (Termux)
İndir: ollama.com Termux ile
Sonuç: Termux’ta rahat iseniz ve telefonda masaüstü Ollama deneyimini istiyorsanız bunu seçin.
6. Smart Composer — yerel bir modele işaret etmek için en iyi Obsidian eklentisi
Smart Composer, Obsidian içindeki bir sohbeti OpenAI uyumlu herhangi bir uç noktayla bir konuşmaya dönüştüren topluluk eklentisidir; yerel Ollama veya Termux aracılığıyla aynı telefonda çalışan LM Studio veya LAN’ın diğer tarafında ev sunucusu dahil. İstemler, @-notlara, klasörlere ve etiketlere başvurabilir, bu nedenle “bu paragrafı geçen ayın günlük notlarının tonunda yeniden yazın” isteminin gerçek bağlamı vardır.
Başarısız olduğu yerler: Eklenti yine de bir sunucuya ulaşabileceğinizi varsayar, bu nedenle telefon çevrimdışıysa ve hiçbir yerel sunucu çalışmıyorsa, hiçbir şey yapmaz.
Fiyatlandırma:
- Ücretsiz: MIT altında açık kaynak
- Ödeme: Hiçbiri
Platformlar: Android, iOS, Windows, macOS, Linux (Obsidian içinde)
İndir: github.com/glowingjade/obsidian-smart-composer
Sonuç: Obsidian ile model arasında köprü olarak Smart Composer’ı seçin, bu model telefonda çalışsın veya ev sunucunuzda olsun.
7. Text Generator — istem şablonları için en iyi eklenti
Text Generator notları şablon olarak ele alır. Değişkeni sarın, sistem istemini ekleyin ve şablonu herhangi bir notun üzerinde çalıştırarak yer tutucu dolgular ve sonuç yapılandırılan modele gönderir. Yerel Ollama, LM Studio veya barındırılan sağlayıcılara karşı çalışır ve topluluk forumundaki şablon kütüphanesi geniştir.
Başarısız olduğu yerler: Sözdizimi öğrenmek için bir öğleden sonra gerekir. Başarısız bir şablonu mobilde hata ayıklamak, masaüstünde olduğundan daha acı vericidir.
Fiyatlandırma:
- Ücretsiz: GPLv3 altında açık kaynak
- Ödeme: Hiçbiri
Platformlar: Android, iOS, Windows, macOS, Linux (Obsidian içinde)
İndir: text-gen.com
Sonuç: Notu tekrarlanabilir bir yapay zeka eylemine dönüştüren yeniden kullanılabilir istem şablonları istiyorsanız Text Generator’ı seçin.
Nasıl seçilir
Henüz telefonda kasa yoksa, önce Obsidian kurun ve senkronize edin.
En hızlı yerel oluşturma istiyorsanız ve sideload APK’dan rahat iseniz, MLC Chat çalıştırın.
Telefonda ilk kez yerel modeller deniyorsanız, PocketPal AI kurun ve 3B modeli seçin.
Sohbet, manuel boru hattı olmadan notlarınızı görmesi gerekiyorsa, paylaşılan kasa klasörüyle Layla deneyin.
Zaten Termux’ta yaşıyorsanız, orada Ollama kurun ve her Obsidian eklentisinin localhost’u işaret etmesini sağlayın.
Modeli Obsidian’ın kendisine getirmek için, sohbet yüzeyi olarak Smart Composer ekleyin.
Notlarda tekrarlanabilir şablonlu istemler için, Text Generator‘ı da ekleyin.
SSS
Faydalı bir model çalıştırabilen en küçük telefon nedir?
Son iki flaman nesline ait 8 GB RAM telefon, yararlı hızda 3B modeli çalıştıracaktır. 12 GB RAM telefon 7B Q4 kwant açar. 6 GB altında, işletim sistemi modeli takas etmeye devam eder ve hızlar kaya kadar düşer.
Hangi modelle başlamalıyım?
Phi-3.5-mini ve Llama-3.2-3B’nin her ikisi de telefon için iyi varsayılandır. Her ikisi de Q4’te 3 GB altında sığar, tutarlı bir şekilde oluşturur ve yararlı olması için yeterli genel bilgi bilir. Flaman cihazda Qwen2.5-7B veya Mistral-7B gibi 7B’ye geçin.
Modeli çalıştırmak pili mahvedecek mi?
Birkaç yüz tokenlerin kısa nesilleri iyidir. Uzun ajan çalıştırmaları, büyük bir kasayı yeniden kodlayan RAG boru hatları veya sürekli ön plan kullanımı, normal bir telefonu birkaç saat içinde drenaj yapacaktır. Yerel modeli kısa biçimli yardımcı olarak ele alın, arka plan hizmeti değil.
Obsidian mobili masaüstümde çalışan bir modeli arayabilir mi?
Evet. Smart Composer’ı masaüstünüzün yerel IP’sine ve ev ağınız üzerinden Ollama bağlantı noktasına işaret edin. Evde olmadığınız zaman aynı bağlantının çalışmasını istiyorsanız Tailscale veya WireGuard ekleyin. Telefon özel kalır; model sadece başka bir yerde.
