Caso de uso · Trabajos por lotes
Miles de archivos, una sesión.
Ejecute trabajos GPU por lotes bajo demanda o durante hasta 30 días: embeddings, transcripción, evaluación, procesamiento de datos. Pague los minutos usados.
$ rsync -avz ./job/ ubuntu@203.0.113.42:~/job/$ ssh ubuntu@203.0.113.42 'tmux new -d -s job "cd job && ./run.sh > run.log 2>&1"'$ ssh ubuntu@203.0.113.42 'tail -f ~/job/run.log'$ rsync -avz ubuntu@203.0.113.42:~/job/out/ ./out/Traiga un script y sus datos de entrada, llévese los resultados. La máquina se elimina al final.
Qué GPU
| Trabajo | VRAM habitual |
|---|---|
| Embeddings, codificadores pequeños | 16 GB |
| Voz a texto (Whisper large) | 16 a 24 GB |
| Descripción de imágenes con modelos de visión y lenguaje (7B) | 24 a 48 GB |
| Evaluación de LLM (7B a 70B) | Consulte Inferencia de LLM |
Pasos
- Inicie una máquina.
- Suba el código y los datos de entrada con
rsynce inicie el trabajo entmux. - Descargue los resultados y luego finalice la sesión.
Solicite acceso.
Díganos qué va a ejecutar. Recibirá su acceso por correo electrónico.