SmolChat 앱
SmolChat은 안드로이드에서 SLM(소형 언어 모델)의 온디바이스 추론 기능입니다.
프로젝트 목표
- 로컬 SLM(소형 언어 모델)과 상호작용할 수 있는 사용 가능한 사용자 인터페이스 제공
- 사용자가 SLM(GGUF 모델)을 추가/제거하고 시스템 프롬프트 또는 추론 매개변수(온도, 최소 확률)를 수정할 수 있도록 허용
- 사용자가 특정 하위 작업을 신속하게 생성하고 SLM을 사용하여 응답을 생성할 수 있도록 허용
- 단순하고 이해하기 쉬우며 확장 가능한 코드베이스
