NVIDIA H100 GPUs minutengenau mieten.
Training und schnelle Inferenz. 80 GB pro GPU, minutengenau abgerechnet.
HopperRechenzentrum
H100 80GB PCIe
Training und schnelle Inferenz
- VRAM
- 80 GB
- Ab
- 2,89 $/h
Kanada
GPU Cloud · Secure
H100-Preise pro GPU-Stunde.
| GPU | VRAM | Länder | On demand | SpotUnterbrechbar |
|---|---|---|---|---|
| H100 80GB SXM | 80 GB |
| ab 4,95 $/h | Nicht verfügbar |
| H100 80GB PCIe | 80 GB |
| ab 2,89 $/h | ab 2,31 $/h |
| H100 80GB NVLink | 80 GB |
| Nicht verfügbar | ab 2,29 $/h |
Preise vom 14.11.2026, 20:35 UTC. US-Dollar, pro GPU, zzgl. Steuern.
Community-Maschinen. Von ihren Besitzern bepreist, pro Stunde. Jeder Preis in der Konsole.Community entdecken
Die H100 in Zahlen.
- Architektur
- NVIDIA Hopper
- GPU-Speicher
- 80 GB pro GPUHBM3 (SXM)HBM2e (PCIe, NVLink)
- Speicherbandbreite
- 3,35 TB/s (SXM)2 TB/s (PCIe, NVLink)
- Verbindung
- NVLink 4 · 900 GB/s (SXM)PCIe Gen5 (PCIe)PCIe Gen5 · NVLink bridge 600 GB/s (NVLink)
- Bauform
- H100 80GB SXM, H100 80GB PCIe und H100 80GB NVLink
- Image
- Ubuntu 24.04 LTS, NVIDIA-Treiber 570, CUDA 12.8
- Abrechnung
- Minutengenau
Was in 80 GB passt.
Offene Modelle auf einer H100, oder auf bis zu 8 verteilt.
| Modell | 16 Bit | 4 Bit |
|---|---|---|
| Llama 3.1 8B Instruct | 1 GPUBraucht 19.5 GiB | 1 GPUBraucht 6.1 GiB |
| Mistral 7B Instruct v0.3 | 1 GPUBraucht 17.8 GiB | 1 GPUBraucht 5.7 GiB |
| Gemma 2 27B IT | 1 GPUBraucht 63.5 GiB | 1 GPUBraucht 17.9 GiB |
| Qwen2.5 32B Instruct | 1 GPUBraucht 74.8 GiB | 1 GPUBraucht 20.4 GiB |
| Mixtral 8x7B Instruct | 2 GPUsBraucht 106.0 GiB | 1 GPUBraucht 27.7 GiB |
| Llama 3.3 70B Instruct | 4 GPUsBraucht 160.3 GiB | 1 GPUBraucht 42.0 GiB |
| Qwen2.5 72B Instruct | 4 GPUsBraucht 165.0 GiB | 1 GPUBraucht 43.1 GiB |
| FLUX.1 [dev] | 1 GPUBraucht 38.9 GiB | 1 GPUBraucht 10.5 GiB |
| Whisper large-v3 | 1 GPUBraucht 4.5 GiB | 1 GPUBraucht 1.9 GiB |
Vom GPU-Rechner geschätzt für einen Kontext von 4.096 Token und eine Anfrage: Gewichte, KV-Cache und Laufzeit-Overhead. Nach Workload starten
Was auf der H100 gut läuft.
- LLM-InferenzEin OpenAI-kompatibler Endpoint mit vLLM.
- Fine-TuningMit Ihren Daten trainieren. Die Gewichte behalten.
- Batch-JobsTausende Dateien, eine Sitzung.
- RezeptevLLMEin Open-Weight-LLM mit vLLM auf einer Node-Lodge-Maschine bereitstellen. Installation mit uv, OpenAI-kompatibler Server, Abfrage über einen SSH-Tunnel.
- RezepteLoRA-Fine-TuningEin Open-Weight-LLM mit LoRA oder QLoRA über die Hugging Face TRL CLI auf einer Node-Lodge-GPU fine-tunen und den Adapter von der Maschine kopieren.
Neben der H100.
Fragen zur H100.
- Was kostet eine NVIDIA H100 pro Stunde?
- Ab 2,89 $ pro GPU-Stunde on demand am 14.11.2026, 20:35 UTC, in US-Dollar vor Steuern. Spot, unterbrechbar: ab 2,29 $ pro GPU-Stunde. Minutengenau über Prepaid-Guthaben abgerechnet, ohne Mindestbetrag.
- Wie viel Speicher hat die H100?
- 80 GB HBM3 und HBM2e pro GPU. Speicherbandbreite: 3,35 TB/s (SXM) und 2 TB/s (PCIe, NVLink).
- Wo stehen die H100 GPUs?
- Länder: Kanada, Finnland und Vereinigte Staaten. In Partner-Rechenzentren, unter Node Lodge Secure. Die Konsole zeigt die Stadt jeder Maschine.
- Welche Modelle laufen auf einer H100?
- Mit 16 Bit: Llama 3.1 8B Instruct, Mistral 7B Instruct v0.3, Gemma 2 27B IT, Qwen2.5 32B Instruct, FLUX.1 [dev] und Whisper large-v3. Mit 4 Bit: Llama 3.1 8B Instruct, Mistral 7B Instruct v0.3, Gemma 2 27B IT, Qwen2.5 32B Instruct, Mixtral 8x7B Instruct, Llama 3.3 70B Instruct, Qwen2.5 72B Instruct, FLUX.1 [dev] und Whisper large-v3. Jedes andere Modell dimensioniert der GPU-Rechner.
Zugang anfragen.
Sagen Sie uns, was Sie ausführen möchten. Ihr Zugang kommt per E-Mail.