GPU Dedicated Server

Ein GPU-Server ist ein dedizierter Server, der mit einer oder mehreren leistungsstarken Grafikkarten (GPUs) ausgestattet ist. Diese Server sind für rechenintensive Aufgaben wie Künstliche Intelligenz (KI), 3D-Rendering, wissenschaftliche Simulationen und Video-Encoding optimiert.

GPU-Server werden häufig für folgende Aufgaben eingesetzt:

• Künstliche Intelligenz (KI / AI) / Machine Learning
• Deep Learning Trainings & Inferenz
• 3D-Rendering (z. B. Blender, OctaneRender)
• Video-Encoding & Streaming (z. B. mit NVENC)
• Wissenschaftliche Berechnungen & Simulationen
• Blockchain & Mining (je nach Anbieter zulässig)
• CAD & GIS-Anwendungen -Grafikbeschleuniger bei Termin / RDP Diensten

In unseren GPU basierten Serversystemen kommen ausschließlich Server GPUs zum Einsatz. Es handelt sich um Grafikkarten, die für den Dauerbetrieb in Rechenzentren geeignet sind und in entsprechenden Rack-Gehäusen installiert werden können. Zur Auswahl stehen dabei verschiedene NVIDIA Grafikkarten wie beispielsweise die NVIDIA Quadro RTX 5000 ADA für KI Anwendungen.

Normale Server nutzen hauptsächlich CPUs. GPU-Server haben zusätzlich eine oder mehrere Grafikkarten, die für parallele Berechnungen optimiert sind. Dies ermöglicht massiv höhere Rechenleistung bei bestimmten Aufgaben – besonders im Bereich KI und Grafikverarbeitung.

Generell kann eine Virtualisierung auf jedem unserer Server erfolgen. Bei NVIDIA muss man aber zur Nutzung bestimmter GPU Features unter Umständen eine Lizenz zusätzlich käuflich erwerben, um die GPU-Features in einer virtuellen Umgebung nutzen zu können.

Ada ist die Codename-Architektur der neuesten NVIDIA-GPU-Generation und folgt auf die vorherige Generation mit dem Codenamen Ampere. Dabei handelt es sich um Enterprise-Grafikkarten, die stärker auf KI, Echtzeit-Rendering und hybride Workloads ausgerichtet sind.

Unsere Grafikkarten Server werden ausschließlich in hochzertifizierten Rechenzentren in Frankfurt am Main betrieben.

• Standort Deutschland (DSGVO-konform)
• Zertifizierungen z. B. ISO 27001, EN 50600, Tier III oder höher
• Redundante Strom- und Netzwerkanbindung
• 24/7 Zugangskontrolle, Videoüberwachung, Brandschutzsysteme

Ja - gerade im KI Umfeld kann es erforderlich sein, eine strikte WAN / LAN Trennung durchzuführen. Gerade wenn die eigene KI nur für interne Geschäftszwecke eingesetzt werden soll und keine Daten davon ins öffentliche Internet gelangen sollen, wäre der Einsatz einer Firewall Lösung hier empfehlenswert. Wir bieten dafür günstige PaaS Lösungen zum Schutz von Umgebungen mit kritischen Daten.

Generell überwachen wir unsere Kunden hinsichtlich der eingesetzten Services nicht. In der Regel sind uns die Einsatzzwecke der Server nicht bekannt, daher schließen wir Mining an dieser Stelle nicht aus.

Für eine kleine AI-Umgebung, z. B. für lokale KI-Experimente, Modell-Inferenz (nicht Training) und ggf. Fein-Tuning kleinerer Modelle, ist der VRAM (Grafikspeicher) und die Rechenleistung (v.a. Tensorleistung) entscheidend. Einen geeigneten Einstieg bietet dabei die RTX 2000 ADA Grafikkarte. Diese eignet sich für Inferenz mittelgroßer Modelle wie beispielsweise LLaMA 2 7B.