SmolChat アプリ
SmolChatは、Androidにおけるデバイス内推論のSLM(小型言語モデル)です。
プロジェクトの目標
- ローカルのSLM(小型言語モデル)と対話するための使いやすいユーザーインターフェースを提供する
- ユーザーがSLM(GGUFモデル)を追加/削除し、システムプロンプトや推論パラメータ(温度、最小確率)を変更できるようにする
- ユーザーが特定のダウンストリームタスクを迅速に作成し、SLMを使用して応答を生成できるようにする
- シンプルで理解しやすく、拡張可能なコードベース








