Deine eigenen Grafikkarten, nicht geteilt und nicht nach Token abgerechnet. Ubuntu 24.04 mit NVIDIA-Treiber, CUDA und Docker ist schon drauf. Nach Zahlungseingang in unter einer Minute bereit: per SSH einloggen, Modell starten. Gehostet in Frankfurt.
Lieber ein ganzer Server mit eigener Karte? Zu den GPU-Dedicated-Servern
Die Profikarte aus NVIDIAs Blackwell-Generation, gebaut für den Dauerbetrieb im Rechenzentrum. Jede Karte in deinem GPU-VPS gehört dir allein, mit voller Leistung. Die Nummern zeigen dir, wo was auf der Karte sitzt.
Dazu 752 Tensor-Kerne der fünften und 188 RT-Kerne der vierten Generation. 4 PFLOPS in FP4, 120 TFLOPS in FP32.
512 Bit breit, 1.597 GB/s. Verteilt auf 32 Chips mit je 3 GB, die Hälfte sitzt auf der Rückseite.
Direkt im Chip: H.264, H.265 und AV1 in Hardware, auch 4:2:2 aus Profikameras.
Volle Leistungsaufnahme der Server Edition, gebaut für Dauerlast im Rechenzentrum.
Rund 64 GB/s je Richtung zwischen Karte und Server.
Schematische Draufsicht ohne Kühlkörper. Leistungswerte laut NVIDIA, Aufteilung der Kerne und Speicherchips aus diesen Werten abgeleitet.
Ein Sprachmodell muss komplett in den Grafikspeicher passen, sonst wird es langsam. Mit 96 GB pro Karte läuft auf einer einzigen RTX PRO 6000 Blackwell, wofür du sonst mehrere Karten bräuchtest.
Wähl eine Größe und sieh, welche offenen Modelle komplett in den Grafikspeicher passen. Ob gpt-oss-120b auf einer Karte oder DeepSeek auf acht: Gewichte, Kontext und Daten bleiben auf deinem Server.
Richtwerte für die Modellgewichte. Faustregel: Parameter × Bytes pro Parameter (BF16 = 2, FP8 = 1, 4-Bit = 0,5). Dazu kommt Platz für den Kontext (KV-Cache), je länger der Kontext, desto mehr. Bei mehreren Karten verteilst du ein Modell zum Beispiel mit vLLM über --tensor-parallel-size.
Du wählst, wie viele Karten dein GPU-VPS bekommt. vCPUs, Arbeitsspeicher und Speicherplatz wachsen mit. Größer wechseln geht jederzeit, die Karten kommen physisch dazu.
Alle Preise inkl. 19 % MwSt. Du zahlst im Voraus, monatlich oder für längere Zeiträume. Ist das Inklusivvolumen aufgebraucht, drosseln wir auf 10 Mbit/s, ohne Zusatzkosten. Zusatz-Traffic kannst du jederzeit dazubuchen.
Du brauchst etwas Spezielles, das hier nicht dabei ist? Wir stellen dir gern ein individuelles Angebot zusammen. Sprich uns an
Dein GPU-VPS startet mit unserem AI-Ready-Image. NVIDIA-Treiber, CUDA 13.4 und Docker mit GPU-Zugriff sind eingerichtet, du kommst direkt zum spannenden Teil.
Vorinstalliert und auf die RTX PRO 6000 Blackwell abgestimmt. Du kannst auch jedes andere Image wählen und alles selbst einrichten.
--gpus all funktioniert sofort$ nvidia-smi $ docker run --rm --gpus all \ ubuntu nvidia-smi
Ein Befehl startet Ollama und die Weboberfläche Open WebUI zusammen. Danach lädst du ein Modell wie gpt-oss-120b mit einem Klick, und deine Chats bleiben auf deinem Server in Frankfurt.
docker run -d -p 3000:8080 --gpus=all \ -v ollama:/root/.ollama \ -v open-webui:/app/backend/data \ -e WEBUI_SECRET_KEY=$(openssl rand -hex 32) \ --name open-webui --restart always \ ghcr.io/open-webui/open-webui:ollama
http://deine-ip:3000 und leg sofort dein Admin-Konto an: Das erste Konto wird Admin. Dann unter „Modelle“ zum Beispiel gpt-oss:120b oder llama3.3:70b laden.vLLM stellt dein Modell unter derselben Schnittstelle bereit wie die OpenAI-API. Bestehende Apps, n8n-Workflows oder Agenten zeigst du einfach auf deinen Server.
docker run -d --gpus all --ipc=host -p 8000:8000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --name vllm vllm/vllm-openai:latest \ --model openai/gpt-oss-120b \ --api-key dein-geheimer-schluessel
curl http://localhost:8000/v1/chat/completions \
-H "Authorization: Bearer dein-geheimer-schluessel" \
-H "Content-Type: application/json" \
-d '{"model":"openai/gpt-oss-120b","messages":[{"role":"user","content":"Hallo!"}]}'
ComfyUI ist die Node-Oberfläche für Bild- und Videomodelle wie FLUX.1, Stable Diffusion 3.5 oder Wan 2.2. Mit 96 GB lädst du große Modelle in voller Präzision.
apt install -y python3-venv git git clone https://github.com/Comfy-Org/ComfyUI && cd ComfyUI python3 -m venv .venv && . .venv/bin/activate pip install torch torchvision torchaudio \ --extra-index-url https://download.pytorch.org/whl/cu130 pip install -r requirements.txt python main.py
ssh -L 8188:localhost:8188 root@deine-ip
http://localhost:8188 im Browser öffnen. ComfyUI ist so nicht öffentlich erreichbar, nur für dich.Vier Encoder und vier Decoder pro Karte rechnen H.264, H.265 und AV1 in Hardware. Ideal für große Videobibliotheken, Streams oder Material aus Profikameras.
apt install -y ffmpeg ffmpeg -hwaccel cuda -hwaccel_output_format cuda -i input.mov \ -c:v av1_nvenc -preset p5 -cq 28 -c:a copy output.mp4
av1_nvenc gegen hevc_nvenc.NVIDIAs offizieller Container bringt PyTorch, CUDA und cuDNN in passenden Versionen mit. Darin trainierst du LoRA-Adapter auf deinen eigenen Daten, zum Beispiel mit Unsloth oder Hugging Face TRL.
docker run --gpus all -it --rm --ipc=host \ -v $PWD:/workspace \ nvcr.io/nvidia/pytorch:26.10-py3
python -c "import torch; print(torch.cuda.get_device_name())"
# NVIDIA RTX PRO 6000 Blackwell Server Edition
Von der ersten Idee bis zum Dauerbetrieb: alles, was viel Grafikspeicher und Rechenleistung braucht.
Ein internes Assistenzsystem oder der KI-Baustein deiner App. Deine Daten gehen an kein fremdes KI-Unternehmen.
Lass ein Modell auf deine Handbücher, Tickets oder Verträge zugreifen und Fragen dazu beantworten.
Produktbilder, Konzeptkunst oder kurze Clips, ohne Credits und ohne Wartezeit in einer Warteschlange.
188 RT-Kerne der vierten Generation und 96 GB für große Szenen und fotorealistische Animationen.
Podcasts, Meetings oder Videos transkribieren, Untertitel erzeugen und Stimmen synthetisieren.
Über 24.000 CUDA-Kerne pro Karte rechnen Strömungen, Moleküle oder Modelle parallel.
Beide mit NVIDIA-Karte nur für dich. Der Unterschied: wie schnell du startest und wie bequem du deinen Server verwaltest.
Egal ob eine Karte oder acht.
Starten, neu installieren, Rescue, Konsole im Browser, Firewall und SSH-Keys, alles an einem Ort.
Stand sichern, neues Modell oder Treiber ausprobieren, bei Bedarf zurückspringen. Nächtliche Backups mit 7 Tagen buchst du dazu.
Dein System, deine Software, deine Modelle. Wir schreiben dir nichts vor.
Basic Protection ist immer aktiv. Für gezielt angegriffene Anwendungen buchst du die zero-lag Protection dazu. Mehr zur DDoS-Protection
Deine Daten und Berechnungen bleiben in Deutschland. Mehr zu unseren Rechenzentren
Danach drosseln wir auf 10 Mbit/s, ohne Zusatzkosten. Mehr Traffic buchst du jederzeit dazu.
Eine IPv4-Adresse und IPv6 ohne Aufpreis. Bis zu 4 weitere IPv4 für je 3,00 € im Monat inkl. 19 % MwSt.
Du zahlst im Voraus und kündigst, wann du willst. Alle Zahlungsmethoden
Wir klären deine Fragen vor dem Kauf. Deine Frage ist nicht dabei? Schreib uns einfach.
Kontaktiere unsdocker run --gpus all funktioniert direkt. Du kannst auch ein anderes Image wählen und alles selbst installieren.--tensor-parallel-size 4. Alternativ läuft auf jeder Karte eine eigene Instanz, das verdoppelt den Durchsatz für viele gleichzeitige Nutzer.Die Profikarte aus NVIDIAs Blackwell-Generation, physisch nur für dich. Mit Treiber, CUDA und Docker in unter einer Minute nach Zahlungseingang bereit.