Recettes
Recettes prêtes à exécuter
Commandes à exécuter sur une machine Node Lodge via SSH : Ubuntu 24.04, pilote NVIDIA 570, CUDA 12.8.
- vLLMServez un LLM à poids ouverts avec vLLM sur une machine Node Lodge. Installation avec uv, serveur compatible OpenAI, requêtes par tunnel SSH.
- ComfyUIExécutez ComfyUI sur un GPU Node Lodge. Installation avec uv, téléchargement d'un checkpoint, interface web ouverte sur votre ordinateur par tunnel SSH.
- Fine-tuning LoRAFaites le fine-tuning d'un LLM à poids ouverts en LoRA ou QLoRA avec la CLI Hugging Face TRL sur un GPU Node Lodge, puis copiez l'adaptateur hors de la machine.
- BlenderRendez des scènes Blender sans interface sur un GPU Node Lodge. Installez Blender 5.2, rendez images ou animations avec Cycles et OptiX, récupérez le résultat.