Rezepte
Sofort einsatzbereite Rezepte
Befehle für eine Node-Lodge-Maschine per SSH: Ubuntu 24.04, NVIDIA-Treiber 570, CUDA 12.8.
- vLLMEin Open-Weight-LLM mit vLLM auf einer Node-Lodge-Maschine bereitstellen. Installation mit uv, OpenAI-kompatibler Server, Abfrage über einen SSH-Tunnel.
- ComfyUIComfyUI auf einer Node-Lodge-GPU betreiben. Installation mit uv, Checkpoint herunterladen, Web-UI über einen SSH-Tunnel auf Ihrem Computer öffnen.
- LoRA-Fine-TuningEin Open-Weight-LLM mit LoRA oder QLoRA über die Hugging Face TRL CLI auf einer Node-Lodge-GPU fine-tunen und den Adapter von der Maschine kopieren.
- BlenderBlender-Szenen headless auf einer Node-Lodge-GPU rendern. Blender 5.2 installieren, Standbilder oder Animationen mit Cycles und OptiX rendern, Frames laden.