SmolChat Ứng dụng
SmolChat là một hệ thống suy diễn SLM trên thiết bị trong Android.
Mục tiêu Dự án
- Cung cấp một giao diện người dùng có thể sử dụng để tương tác với các SLM (mô hình ngôn ngữ nhỏ) cục bộ, trên thiết bị
- Cho phép người dùng thêm/xóa SLM (mô hình GGUF) và chỉnh sửa các prompt hệ thống hoặc tham số suy diễn của chúng (nhiệt độ, min-p)
- Cho phép người dùng tạo nhanh các nhiệm vụ hạ nguồn cụ thể và sử dụng SLM để tạo ra phản hồi
- Mã nguồn đơn giản, dễ hiểu và có thể mở rộng
