SmolChat 应用
SmolChat 是一个在 Android 设备上进行 SLM（小型语言模型）推理的应用。
项目目标
- 提供一个可用的用户界面，以便在本地与 SLM（小型语言模型）进行交互
- 允许用户添加/删除 SLM（GGUF 模型）并修改其系统提示或推理参数（温度、最小概率）
- 允许用户快速创建特定的下游任务并使用 SLM 生成响应
- 简单、易于理解、可扩展的代码库
SmolChat 适用于安卓
0.0.4 Apache-2.0 license
在Android设备上本地运行任何GGUF SLMs/LLMs
下载 APK (56.2 MB)
