Cum instalezi Ollama + Open WebUI pe un Cloud VPS

AI complet privat pe serverul tău: Ollama cu modelul llama3.2:3b preinstalat și interfața Open WebUI pe portul 3000. Recomandat: minim 8 GB RAM.

Rulând aplicația pe propriul server, datele și cheile tale API rămân la tine, fără limite de utilizare impuse de un SaaS și cu costuri fixe, facturate la oră.

Instalare cu un click pe cloudlinux.ro

Cea mai rapidă variantă: Ollama + Open WebUI se instalează automat la prima pornire a unui server nou.

1. Creează un Cloud VPS din panoul de control.
2. La pasul de configurare, alege Ollama + Open WebUI din catalogul de aplicații.
3. Pornește serverul. Instalarea rulează automat în fundal câteva minute, iar starea apare pe pagina serverului.
4. Datele de acces și parolele generate se salvează pe server în /root/app-credentials.txt. Aplicația va fi disponibilă pe portul 3000.

Instalare manuală pe orice server Ubuntu

Dacă preferi să instalezi singur, mai jos este exact scriptul folosit de instalarea automată. Rulează-l ca root pe un server Ubuntu proaspăt (recomandat 24.04). Se oprește la prima eroare, iar la final găsești datele de acces în /root/app-credentials.txt.

export DEBIAN_FRONTEND=noninteractive
curl -fsSL https://get.docker.com | sh
curl -fsSL https://ollama.com/install.sh | sh
systemctl enable --now ollama
docker run -d --name open-webui --restart=always -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  ghcr.io/open-webui/open-webui:main
ollama pull llama3.2:3b || true
IP=$(hostname -I | awk '{print $1}')
printf 'Open WebUI: http://%s:3000\nCreeaza contul de administrator la prima accesare. Modelul llama3.2:3b este preinstalat.\n' "$IP" > /root/app-credentials.txt

Poți salva scriptul și ca rețetă în contul tău, ca să-l refolosești la orice server nou.