LLaMA.cpp: Compilación, cuantización y benchmarking
Guía práctica de llama.cpp: compilación para CPU, CUDA, Metal y Vulkan, formato GGUF y cuantización, uso de llama-cli y llama-server con API compatible OpenAI, y benchmarking con llama-bench
Categoría IA local
Modelos de lenguaje ejecutándose en hardware propio: motores de inferencia (llama.cpp, Ollama, vLLM), cuantización, despliegue en Kubernetes, evaluación y coste frente a las APIs en la nube.