SmolChat 應用程式
SmolChat 是一款在 Android 上進行小型語言模型 (SLMs) 的設備內推斷的應用。
專案目標
- 提供可用的用戶介面，以便在本地設備上與本地的 SLMs 互動
- 允許用戶添加/移除 SLMs (GGUF 模型) 並修改其系統提示或推斷參數 (溫度、最小概率)
- 允許用戶快速創建特定的下游任務並使用 SLMs 生成回應
- 簡單、易於理解且可擴展的代碼庫
SmolChat 適用於 Android
0.0.4 Apache-2.0 license
在 Android 上本地運行任何 GGUF SLMs/LLMs
下載 APK (56.2 MB)
