Outils pour utilisateurs

Outils du site


linux:docker-nvidia-ollama

Différences

Ci-dessous, les différences entre deux révisions de la page.

Lien vers cette vue comparative

linux:docker-nvidia-ollama [2025/02/25 15:48] – créée rootlinux:docker-nvidia-ollama [2025/02/25 15:48] (Version actuelle) root
Ligne 2: Ligne 2:
  
 A utiliser sous Ubuntu 22.4 A utiliser sous Ubuntu 22.4
 +Le port du service est 3000
  
 ===== Drivers NVIDIA ===== ===== Drivers NVIDIA =====
Ligne 42: Ligne 43:
 docker run --rm -it --gpus all nvcr.io/nvidia/pytorch:22.03-py3 docker run --rm -it --gpus all nvcr.io/nvidia/pytorch:22.03-py3
 </code> </code>
 +
 +===== Docker Compose =====
 +
 +<code yaml>
 +services:
 +  ollama:
 +    image: ollama/ollama:latest
 +    hostname: ollama
 +    ports:
 +      - "11434:11434"
 +    volumes:
 +      - ./models:/root/.ollama/models
 +    networks:
 +      - genai-network
 +    deploy:
 +       resources:
 +         reservations:
 +           devices:
 +             - driver: nvidia
 +               count: all
 +               capabilities: [gpu]
 +  open-webui:
 +    image: ghcr.io/open-webui/open-webui:main
 +    ports:
 +      - "3000:8080"
 +    environment:
 +      - OLLAMA_BASE_URL=http://ollama:11434
 +    volumes:
 +      - ./backend/data:/app/backend/data
 +    networks:
 +      - genai-network
 +networks:
 +  genai-network:
 +    driver: bridge
 +    name: genai-network
 +
 +</code>
 +
 ===== Sources ===== ===== Sources =====
  
linux/docker-nvidia-ollama.1740498505.txt.gz · Dernière modification : de root