ChatterUI Uygulama
Cihazda LLM'leri çalıştırın veya çeşitli ticari veya açık kaynak API'lere bağlanın. ChatterUI, sohbet yapılandırması üzerinde ince ayar kontrolü ile mobil dostu bir arayüz sunmayı amaçlamaktadır.Özellikler:
Cihazda LLM'leri Yerel Modda çalıştırın
Çeşitli API'lere Uzaktan Modda bağlanın
Karakterlerle sohbet edin. (Karakter Kartı v2 spesifikasyonunu destekler.)
Her karakter için birden fazla sohbet oluşturun ve yönetin.
Sampler alanlarını ve Talimat formatlamasını özelleştirin
Cihazınızdaki metinden sese (TTS) motoru ile entegrasyon sağlar
Cihazda çıkarım yapmak için önce Yerel Modu etkinleştirin, ardından Modeller > Modeli İçe Aktar / Harici Model Kullan'a gidin ve cihazınızın belleğine sığabilecek bir gguf modeli seçin. İçe aktarma işlevleri şu şekildedir:
Modeli İçe Aktar: Model dosyasını ChatterUI'ye kopyalar, başlangıç süresini hızlandırabilir.
Harici Model Kullan: Modeli doğrudan cihaz depolamanızdan kullanır, büyük dosyaları ChatterUI'ye kopyalama ihtiyacını ortadan kaldırır ama yükleme sürelerinde hafif bir gecikme olabilir.
Bundan sonra modeli yükleyebilir ve sohbet etmeye başlayabilirsiniz!
Not: Snapdragon 8 Gen 1 ve üzeri veya Exynos 2200+ olan cihazlar için optimize edilmiş performans için Q4_0 kuantizasyonunu kullanmanız önerilir.
Uzaktan Mod, ticari ve açık kaynak projelerden birkaç yaygın API'ye bağlanmanıza olanak tanır.
