Caso de uso · Fine-tuning
Entrene con sus datos. Conserve los pesos.
Fine-tuning con LoRA y QLoRA de LLM de pesos abiertos con Hugging Face TRL en una GPU de centro de datos. Entrene, copie el adaptador y finalice la sesión.
$ curl -LsSf https://astral.sh/uv/install.sh | sh && source $HOME/.local/bin/env$ uv venv --python 3.12 --seed && source .venv/bin/activate$ uv pip install torch --torch-backend=auto && uv pip install "trl[peft]"$ trl sft --model_name_or_path Qwen/Qwen2.5-0.5B \ --dataset_name trl-lib/Capybara --use_peft --output_dir qwen-loraAdapte un modelo de pesos abiertos a sus datos con LoRA. Entrene durante horas y conserve el adaptador.
Qué GPU
| Modelo base | LoRA (base de 16 bits) | QLoRA (base de 4 bits) |
|---|---|---|
| Hasta 3B | 24 GB | 16 GB |
| 7B a 8B | 48 GB | 24 GB |
| 13B a 14B | 80 GB | 48 GB |
| 30B a 34B | Varias GPU | 80 GB |
Cifra exacta para su modelo: calculadora de GPU.
Pasos
- Inicie una máquina, bajo demanda o reservada para el entrenamiento.
- Siga la receta de LoRA.
- Copie el adaptador fuera de la máquina y luego finalice la sesión.
Solicite acceso.
Díganos qué va a ejecutar. Recibirá su acceso por correo electrónico.