Open WebUI x Scaleway

Pris dans un élan d'IA en tentant d'intégrer Ollama dans Mealie, j'ai découvert que Scaleway propose de l'IA générative, gratuite durant la bêta.

Plusieurs modèles sont disponibles :

Voici un petit guide rapide sur l'intégration de l'IA de Scaleway dans OpenWebUI pour converser avec lui.

GitHub - open-webui/open-webui: User-friendly AI Interface (Supports Ollama, OpenAI API, ...)

User-friendly AI Interface (Supports Ollama, OpenAI API, ...) - open-webui/open-webui

GitHubopen-webui

Commencez par générer une clé d'API

Lancez ensuite le container avec les paramètres suivants :

 docker run -d \
  -p 3001:8080 \
  -e OPENAI_API_BASE_URL=https://api.scaleway.ai/8cbd4c0c-5525-44ce-b536-afc22c185e3c/v1 \
  -e OPENAI_API_KEY=<<SECRETKEY>> \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

Vous pourrez choisir parmi les différents modèles de Scaleway :

Il est ensuite possible de converser avec le LLM de Scaleway !