SmolChat 应用
SmolChat 是一个在 Android 设备上进行 SLM(小型语言模型)推理的应用。
项目目标
- 提供一个可用的用户界面,以便在本地与 SLM(小型语言模型)进行交互
- 允许用户添加/删除 SLM(GGUF 模型)并修改其系统提示或推理参数(温度、最小概率)
- 允许用户快速创建特定的下游任务并使用 SLM 生成响应
- 简单、易于理解、可扩展的代码库
0.0.4 Apache-2.0 license
在Android设备上本地运行任何GGUF SLMs/LLMs
下载 APK (56.2 MB)SmolChat 是一个在 Android 设备上进行 SLM(小型语言模型)推理的应用。