Diferencias

Muestra las diferencias entre dos versiones de la página.

--- lia20260529 [2026/05/30 01:10] – [Personalizando llama.cpp] jared
+++ lia20260529 [2026/05/30 02:05] (actual) – jared
@@ Línea 84: / Línea 84: @@
 </file>
+===== Nvidia llama.cpp =====
+  * Requerimiento previo:
+    * Tener configurado correctamente los drivers de Nvidia.
+    * Y tener actualizado el sistema.
+    * Verificación ejecutar <code bash>nvidia-smi</code>
+    * <code bash>sudo apt install -y nvidia-cuda-toolkit
+nvcc --version</code>
+  * Compilación
+    * <code bash>git clone https://github.com/ggerganov/llama.cpp
+cd llama.cpp
+cmake -B build -DGGML_CUDA=ON -DCMAKE_CUDA_ARCHITECTURES="86" -DCMAKE_BUILD_TYPE=Release
+cmake --build build --config Release -j$(nproc)
+</code>
+  * Adicionar PATH
+    * <code bash>nano .bashrc</code>
+    * Adicionar al final <code bash>export PATH="$HOME/llama.cpp/build/bin:$PATH"</code>
+    * <code bash>source .bashrc</code>
+  * Primera consulta
+    * <code bash>llama-cli --version
+llama-cli -m gguf/Llama-3.2-3B-Instruct-Q4_K_M.gguf --gpu-layers -1 -p "Hola" -n 50
+</code>
+==== OpenCode ====
+  * Ejecutar con ollama
+    * <code bash>ollama launch opencode</code>