Herramientas de usuario

Herramientas del sitio


lia20260525

¡Esta es una revisión vieja del documento!


Linux + IA 2025/05/25

Docker

  • Scrip de instalación:
    • wget -c https://nextcloud.openit.dev/s/6rBskz35qHgkDAN/download/docker-install.sh
      chmod u+x docker-install.sh
      sudo ./docker-install.sh
  • Dejar descargando el image OpenWebUI
    • docker pull openwebui/open-webui:latest 

Docker Model Runner (DMR)

  • Instalación Ubuntu/Debian
    • sudo apt-get update
      sudo apt-get install docker-model-plugin
  • Verifica la instalación:
    • docker model version

Maquina virtual o sin GPU

  • Para asegurar que DMR use solo CPU y no intente acceder a GPUs:
    • docker model install-runner --gpu none
  • Listar modelos
    • docker model search ai
  • Descargar modelo
    • docker model pull ai/smollm2
  • Ejecutar el Modelo
    • docker model run ai/smollm2 "Escribe una función en Python que calcule el factorial de un número"
lia20260525.1779756119.txt.gz · Última modificación: por jared