Cas d'usage · Traitements par lots
Des milliers de fichiers, une session.
Exécutez des traitements GPU par lots à la demande ou jusqu'à 30 jours : embeddings, transcription, évaluation, traitement de données. Facturé à la minute.
$ rsync -avz ./job/ ubuntu@203.0.113.42:~/job/$ ssh ubuntu@203.0.113.42 'tmux new -d -s job "cd job && ./run.sh > run.log 2>&1"'$ ssh ubuntu@203.0.113.42 'tail -f ~/job/run.log'$ rsync -avz ubuntu@203.0.113.42:~/job/out/ ./out/Apportez un script et ses entrées, repartez avec les sorties. La machine est supprimée à la fin.
Quel GPU
| Traitement | VRAM typique |
|---|---|
| Embeddings, petits encodeurs | 16 Go |
| Transcription de la parole (Whisper large) | 16 à 24 Go |
| Légendage vision-langage (7B) | 24 à 48 Go |
| Évaluation de LLM (7B à 70B) | Voir Inférence LLM |
Étapes
- Démarrez une machine.
- Téléversez le code et les entrées avec
rsync, lancez le traitement danstmux. - Téléchargez les sorties, puis terminez la session.
Demandez l'accès.
Dites-nous ce que vous allez exécuter. Votre accès arrive par courriel.