SmolChat Aplikasi
SmolChat adalah Inferensi SLM di Perangkat pada Android.
Tujuan Proyek
- Menyediakan antarmuka pengguna yang dapat digunakan untuk berinteraksi dengan SLM lokal (model bahasa kecil) secara lokal, di perangkat
- Memungkinkan pengguna untuk menambah/menghapus SLM (model GGUF) dan memodifikasi prompt sistem atau parameter inferensi mereka (suhu, min-p)
- Memungkinkan pengguna untuk dengan cepat membuat tugas hilir spesifik dan menggunakan SLM untuk menghasilkan respons
- Basis kode yang sederhana, mudah dipahami, dan dapat diperluas
