¡Esta es una revisión vieja del documento!

2026/08/24

IA Local

Sitio donde esta los ultimos compilados: https://github.com/ggml-org/llama.cpp/releases

Descargarlo:

 wget https://github.com/ggerganov/llama.cpp/releases/download/b4610/llama-b4610-bin-ubuntu-x64.zip

Otro tar.gz

wget -c https://github.com/ggml-org/llama.cpp/releases/download/b10615/llama-b10615-bin-ubuntu-x64.tar.gz

Descomprimir:
- ```
unzip llama-b4610-bin-ubuntu-x64.zip
```

Descargando GGUF qwen2.5

wget -O Gemma-2-2B-IT-Platinum-Q4_K_M.gguf \
  https://huggingface.co/CelesteImperia/Gemma-2-2B-IT-GGUF/resolve/main/Gemma-2-2B-IT-Platinum-Q4_K_M.gguf?download=true