VORTEILE DER GPU – BESCHLEUNIGTER WORKLOADS

Vorteile der GPUs sind ihre Fähigkeit zur paralellen Abarbeitung von Instruktionen, wodurch die GPU die CPU in der Performance um das Hundertfache schlägt. Damit können Berechungen von der CPU auf die GPU ausgelagert werden, um Anwendungen zu beschleunigen, so das die CPU frei bleibt, um die Laufwerks- und Netzwerk-IOs zu verarbeiten.

Davon profitieren Bereiche wie AI, ML, DL,Business Analytics und VDI. Durch immer leistungsfähigere Systeme können noch komplexere Rechenanforderungen in kürzerer Zeit bewältigt werden. Dies gelingt durch den Einsatz von NVIDIA Grafikkarten, um Rechenoperationen zu parallelisieren, wodurch wir einer CPU oft um den Faktor >1000 überlegen sind.

CPU

GPU

GPU-BESCHLEUNIGTE WORKLOADS

Machine Learning (ML)

GPU Acceleration verbessert die Verarbeitung von großen Daten-Sets in Machine Learning Umgebungen wie Kinetica, MapD, BlazingDB, Brytlyt, OmniSci und SQream, analysiert eine massive Anzahl von Informationen und gibt die Resultate in Millisekunden zurück.  

Bei Machine Learning kommt es vor allem auf Memory und Storage an und eine ausgewogene CPU-zu-GPU Ratio ist enorm wichtig.  

Highperformance Computing (HPC) 

GPU Computing ist die unkompliziertere und energieeffizientere Weg zu HPC. Das NVIDIA CUDA Programmiermodell bietet Programmierern eine Möglichkeit, ihre Applikationen für die bestmögliche Performance feinzutunen.  

HPC erfordert eine hohe GPU-Dichte, hohe Bandbreiten für Netzwerk IOs und Peer-to-Peer Transfers zwischen den GPUs, die Flexibilität um kunden-spezifische Neurale Netzwerke zu designen und zu trainieren und bieten ebenfalls die Interfaces zu den Standardprogrammiersprachen.   

Für DL Workloads werden eine hohe GPU-Dichte, eine hohe Bandbreite für die Netzwerk IOs und eine Peer-to-Peer GPU-Verbindung benötigt.

Data Analytics

Data Analytics helfen Unternehmen auszuwerten, daraus Schlüsse zu ziehen und dann Entscheidungen zu treffen. Beispiele sind Betrugsentdeckung bei Finanzdienstleistungen, Nachfragevorhersagen im prodzierenden Bereich oder vieles mehr.

Die Überlegungen zu Data Analytics schliessen Memory Bandbreite, ein Storage mit möglichst hoher I/O-Leistung sowie ein passendes CPU Sizing mit ein.

Virtual Desktop Infrastructure (VDI)

Bei VDI läuft ein Benutzer-Desktop in einer virtuellen Maschine, die auf einem Server in einem Datacenter liegt. VDI gibt den Benutzern die Freiheit und Mobilität auf ihre virtuellen Desktops jederzeit, überall von jedem Gerät zuzugreifen. Sie kann Unternehmen helfen, Prozesse zu vereinfachen und Kosten durch Konsolidierung und zentrales IT-Management zu senken.

Für VDI sind die bedeutesten Faktoren die CPU-GPU Ratio, Speicherkapazitäten und Memory.

Deep Learning (DL) / Neurale Netzwerke

Die Entwicklung von AI Applikationen beginnt mit dem Training der Neuralen Netzwerke mit großen Daten-Sets. GPU-beschleunigte DL-Plattformen wie BrightML, Bitfusion und NVIDIA NGC offerieren.

NVIDIA GPUS

Modell Memory Power Consumption Workload1
A100 80 GB HBM2 300W HPC/AI/Database Analytics
L40S 48 GB GDDR6 350W AI/Performance graphics/VDI
A30 24 GB HBM2 165W mainstream AI
L40 48 GB GDDR6 300W Performance graphics/VDI
A40 48 GB GDDR6 300W Performance graphics/VDI
A16 64 GB GDDR6 250W VDI
L4  24 GB GDDR6 72W Inferencing/Edge/VDI
L4 24 GB GDDR6 72W Inferencing/Edge/VDI
A2 16 GB GDDR6 60W Inferencing/Edge/VDI
A2 (v2) 16 GB GDDR6 60W Inferencing/Edge/VDI
A2 16 GB GDDR6 60W Inferencing/Edge/VDI
A2 (v2) 16 GB GDDR6 60W Inferencing/Edge/VDI 
A10 24 GB GDDR6 150W mainstream graphics/VDI
T4 16 GB GDDR6 70W Inferencing/Edge/VDI
T4 16 GB GDDR6 70W Inferencing/Edge/VDI
M10 32 GB GDDR5 225W VDI
A100 40 GB HBM2 250W HPC/AI/Database Analytics
V100S 32 GB HBM2 250W HPC/AI/Database Analytics
V100 32 GB HBM2 250W HPC/AI/Database Analytic
V100 16 GB HBM2 250W HPC/AI/Database Analytic
V100 32 GB HBM2 300W HPC/AI/Database Analytic
V100 16 GB HBM2 300W HPC/AI/Database Analytic
RTX6000 24 GB GDDR6 250W VDI/ Performance Graphics
RTX8000 48 GB GDDR6 250W VDI/ Performance Graphics
P100 16 GB HBM2 300W HPC/AI/Database Analytics
P100 16 GB HBM 250W HPC/AI/Database Analytics
P100 12 GB HBM2 250W HPC/AI/Database Analytics
P40 24 GB DDR5 250W HPC/AI/Database Analytics
Workload suggested ideal workloads, but can be used for other workloads

AUFRÜSTUNG BESTEHENDER SERVER

Ganz einfach: Wir prüfen alles für Sie. Wenden Sie sich an uns.
BUSINESS APPLICATIONS

R760, R660, MX760c, R6615

BUSINESS APPLICATIONS

40% CPU, 33%+ Memory Lanes mehr als die Vorgänger

Höhere Core Anzahl für bessere SLAs

Größere Memory Kapazität & Memory Lanes für In-Memory Databanken


DATA ANALYTICS

R760, R660, MX760c, R6615, R660, R7625, MX760c, R7615

DATA ANALYTICS

40% CPU, 33%+ Memory Lanes mehr als die Vorgänger

Höhere Core Anzahl um eine dichtere User Basis zu ermöglichen

Größere Memory Kapazität ermöglicht mehr VMs

Massiver I/O für Scale-out Umgebungen

AI/ML/DL

XE9680, XE9640, XE8640, R760xa, R6625

AI/ML/DL

7x schneller, 33%+ Memory & 100%+ GPU Bandbreite mehr als die Vorgänger

Höher parallelisierte CPU optimiert für GPU Acceleration

Accelerator Support (GPU, FPGA)

Hohe Core Anzahl für Inference

Massiver I/O für Scale-out Umgebungen

HPC APPLICATIONS

R760xa, R6525, C6620,

HPC APPLICATIONS

50%+ schneller, 60% bessere Preis/Perf. Mehr als die Vorgänger

Hohe Parallelisierung für komplexe Analysen

Hohe Parallelisierung für real time Datastreams

Scale Out Support

DATA ANALYTICS VDI "Training & Referencing"

XE8640, R760xa, R6625

DATA ANALYTICS

40%+ schnellere CPU, 60% bessere Preis/Perf. Mehr als die Vorgänger

Höher parallelisierte CPU optimiert für GPU

Hohe Storagekapazität

Accelerator Support

CONTAINERS & VDI

R760xs, R660xs, R6625, R7625, C6620

CONTAINERS & VDI

50%+ schneller, 60% bessere Preis/Perf. Mehr als die Vorgänger

Höher parallelisierte CPU optimiert für vGPU

Volle Memory Encryption verbessert Datensicherheit

All flash Support

ÜBERBLICK DER DELL EMC POWEREDGE SERVER DIE MIT NVIDIA® SINN MACHEN

MEHR ERFAHREN

MEHR INFORMATIONEN

ZUSÄTZLICHE INFORMATIONEN UND MATERIAL