SmolChat Application
SmolChat est une inférence sur appareil des SLMs dans Android.
Objectifs du projet
- Fournir une interface utilisateur utilisable pour interagir avec des SLMs (petits modèles de langage) localement, sur l'appareil
- Permettre aux utilisateurs d'ajouter/retirer des SLMs (modèles GGUF) et de modifier leurs invites système ou paramètres d'inférence (température, min-p)
- Permettre aux utilisateurs de créer rapidement des tâches spécifiques en aval et d'utiliser les SLMs pour générer des réponses
- Code source simple, facile à comprendre et extensible
