SmolChat App
SmolChat es una inferencia en el dispositivo de SLMs en Android.
Objetivos del Proyecto
- Proporcionar una interfaz de usuario usable para interactuar con SLMs (modelos de lenguaje pequeños) localmente, en el dispositivo
- Permitir a los usuarios agregar/eliminar SLMs (modelos GGUF) y modificar sus mensajes del sistema o parámetros de inferencia (temperatura, min-p)
- Permitir a los usuarios crear tareas específicas de manera rápida y utilizar SLMs para generar respuestas
- Código base simple, fácil de entender y extensible
