#!/bin/bash

# Cambiar esta ruta cuando quieras otro modelo
MODEL="$HOME/gguf/Llama-3.2-3B-Instruct-Q4_K_M.gguf"

nohup llama-server \
    --jinja \
    -m "$MODEL" \
    --host 127.0.0.1 \
    --port 11435 \
    -c 8192 \
    -t 4 \
    > /tmp/llama-server.log 2>&1 &

echo $! > /tmp/llama-server.pid
echo "Servidor iniciado. PID: $(cat /tmp/llama-server.pid)"