Recetas
Recetas listas para ejecutar
Comandos para ejecutar en una máquina Node Lodge por SSH: Ubuntu 24.04, controlador NVIDIA 570, CUDA 12.8.
- vLLMSirva un LLM de pesos abiertos con vLLM en una máquina Node Lodge. Instálelo con uv, inicie el servidor compatible con OpenAI y consúltelo por un túnel SSH.
- ComfyUIEjecute ComfyUI en una GPU Node Lodge. Instálelo con uv, descargue un checkpoint y abra la interfaz web en su computadora a través de un túnel SSH.
- Fine-tuning con LoRAFine-tuning de un LLM de pesos abiertos con LoRA o QLoRA mediante la CLI de Hugging Face TRL en una GPU Node Lodge y copie el adaptador fuera de la máquina.
- BlenderRenderice escenas de Blender sin interfaz en una GPU Node Lodge. Instale Blender 5.2, renderice con Cycles y OptiX y descargue los fotogramas.