통합
뉴스
블로그
웹문서
동영상
관련성순
최신순
블로그
온디바이스 LLM 구성
모델 포맷:
LLM
모델의 구조와 4비트 양자화 가중치를 하나의 파일로 통합한 GGUF 포맷을 사용합니다. 말씀하신 '압축 파일 형태'에 정확히 부합합니다. 안드로이드 지원: 내부에 이미
Android
NDK 빌드를 위한 CMakeLists.txt가 포함되어 있으며, 친절하게도 공식 저장소 안에 JNI 소스 코드(ggml-jni.cpp)
blog.naver.com · 2026.06.23