SmolChat Aplikasi
SmolChat adalah Inferens Peranti Dalam SLM di Android.
Matlamat Projek
- Menyediakan antara muka pengguna yang boleh digunakan untuk berinteraksi dengan SLM tempatan (model bahasa kecil) secara langsung di peranti
- Memberi peluang kepada pengguna untuk menambah/membuang SLM (model GGUF) dan mengubah suai arahan sistem atau parameter inferens mereka (suhu, min-p)
- Memberi peluang kepada pengguna untuk mencipta tugas turun yang khusus dengan cepat dan menggunakan SLM untuk menghasilkan respons
- Kod asas yang mudah, mudah difahami, dan boleh diperluas
