Llama Cpp

huggingface-local-models は、Hugging Face のモデルの中から llama.cpp と GGUF でローカル実行できるものを見つけ、実用的な量子化設定を選び、CPU、Apple Metal、CUDA、ROCm で起動するためのスキルです。モデル探索、正確な GGUF ファイルの特定、サーバー／CLI のセットアップ、そしてバックエンド開発やプライベートなローカル推論にすぐ使える導線までカバーします。