DokuWikiOpenIT

Herramientas de usuario

Herramientas del sitio

Traza:
lsf-20260824

Diferencias

Muestra las diferencias entre dos versiones de la página.

Enlace a la vista de comparación

Ambos lados, revisión anteriorRevisión previa
Próxima revisión		Revisión previa
lsf-20260824 [2026/08/25 01:00] – [IA Local] jaredlsf-20260824 [2026/08/25 01:23] (actual) – [Ejecuntado llama.cpp] jared
Línea 13: Línea 13:
     * <code bash>wget -O qwen2.5-0.5b-instruct-q4_k_m.gguf \     * <code bash>wget -O qwen2.5-0.5b-instruct-q4_k_m.gguf \
   "https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct-GGUF/resolve/main/qwen2.5-0.5b-instruct-q4_k_m.gguf"</code>   "https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct-GGUF/resolve/main/qwen2.5-0.5b-instruct-q4_k_m.gguf"</code>
 +===== Ejecuntado llama.cpp =====
 +  * llama-cli, OJO tiene que estar dentro de la carpeta precompilada.
 +    * <code bash>./llama-cli -m ../qwen2.5-0.5b-instruct-q4_k_m.gguf --ctx-size 2048 --temp 0.7 --repeat-penalty 1.1 -n -1 -p "que modelo eres"</code>
 +    * 
lsf-20260824.1787619632.txt.gz · Última modificación: por jared