Llama Cpp

huggingface-local-models는 Hugging Face 모델 중 llama.cpp와 GGUF로 로컬 실행 가능한 모델을 찾고, 실용적인 양자화 버전을 고른 뒤 CPU, Apple Metal, CUDA, 또는 ROCm에서 바로 실행할 수 있도록 돕습니다. 모델 탐색, 정확한 GGUF 파일 찾기, 서버/CLI 설정, 그리고 백엔드 개발과 비공개 로컬 추론을 위한 빠른 경로까지 다룹니다.