SmolChat App
SmolChat è un'inferenza on-device di SLM in Android.
Obiettivi del Progetto
- Fornire un'interfaccia utente utilizzabile per interagire con SLM locali (modelli di linguaggio piccoli) direttamente sul dispositivo
- Consentire agli utenti di aggiungere/rimuovere SLM (modelli GGUF) e modificare i loro prompt di sistema o i parametri di inferenza (temperatura, min-p)
- Consentire agli utenti di creare rapidamente compiti specifici e utilizzare SLM per generare risposte
- Codice semplice, facile da comprendere e estensibile
