Richtige Bewertung von Grafikkarten Rechenleistung (TFLOPS)?

Re(3): Richtige Bewertung von Grafikkarten Rechenleistung (TFLOPS)?

scientificallyilliterate — Fri, 11 Dec 2020 14:43:07 GMT

die sich auch noch wunderbar pipelinen lassen - immer vorausgesetzt, der
Speicher kommt mit den Daten hinterher

Und die Dispatcher schaffen es vernünftig zwischen spatialen und temporalen Abhängigkeiten zu unterscheiden und die einzelnen Cluster so vernünftig auszulasten. Nicht umsonst sind GPU-Designer irgendwann einmal zur Erkenntnis gekommen, dass man sich Technologien aus dem Reich der CPUs klauen könnte, wie bspw. "echte" Befehlszähler und eine Sprungvorhersage, die man auch als ebenjene bezeichnen kann und schmeißen immer mehr Transistoren auf das Front-End und die LD/ST-Einheiten, anstatt das GPU-Areal mit Ausführungseinheiten zuzuscheißen, wie AMD und Intel es kläglich Pre-RDNA/Xe versucht haben.

Aber den Hinweis hat ein Vöglein ja schon einmal von den Dächern gezwitschert...

Re(2): Richtige Bewertung von Grafikkarten Rechenleistung (TFLOPS)?

someonelikeme — Fri, 11 Dec 2020 14:10:37 GMT

Es ist noch schlimmer. Die FLOPS geben sogar nur eine weitgehend theoretische Maximalleistung der FP-Einheiten an, für die heutzutage üblicherweise Fused-Multiply-and-Add (X*Y+Z) herhalten muss, weil das zwei Operationen in einer sind, die sich auch noch wunderbar pipelinen lassen - immer vorausgesetzt, der Speicher kommt mit den Daten hinterher. In einem Peak-Performance-Benchmark interessiert das natürlich nicht, da will man ja nichts sinnvolles berechnen.

Und damit nicht genug - man muss dann auch noch berücksichtigen, für welche Genauigkeit (Verarbeitungsbreite) das überhaupt gilt - die HPC-Gemeinde wünscht sich für ihre Simulationen meist Double Precision (64 bit), für 3D-Grafik in Spielen reicht Single Precision (32 bit) vollkommen, vieles kann man auch schon in Half Precision (16 bit) gut genug nähern. Wer neuronale Netze trainieren will, ist sogar mit 16 bit mehr als ausreichend bedient, der Trend geht da schon zu 8 bit.

Video oder Kryptogeld dagegen sind (in den gängigen Implementationen) zu fast 100% Integer-Code, die aussagekräftigen Kenngrößen für dessen Performance sind in erster Linie Taktfrequenz und Kernzahl. Für Video spielt (in Grenzen) auch noch der Speicher rein, bei Kryptogeld allenfalls in den Varianten, die extra ASIC-feindlich und daher RAM-hungrig designt worden sind.

Und, vollkommen richtig, für die fps in Spielen kann man aus all dem immer noch nichts ablesen, da spielt auch die Engine noch mit rein und mit wievielen Texturen sie hantieren will.

fps in TFLOPS umrechnen zu wollen (oder umgekehrt) oder auch nur aus dem Verhältnis irgendwas schließen zu wollen (außer ob eine Karte eher auf Spiele oder eher auf HPC designt wurde), ist daher ziemlich sinnbefreit.

Re(2): Richtige Bewertung von Grafikkarten Rechenleistung (TFLOPS)?

someonelikeme — Fri, 11 Dec 2020 14:10:37 GMT

Es ist noch schlimmer. Die FLOPS geben sogar nur eine weitgehend theoretische Maximalleistung der FP-Einheiten an, für die heutzutage üblicherweise Fused-Multiply-and-Add (X*Y+Z) herhalten muss, weil das zwei Operationen in einer sind, die sich auch noch wunderbar pipelinen lassen - immer vorausgesetzt, der Speicher kommt mit den Daten hinterher. In einem Peak-Performance-Benchmark interessiert das natürlich nicht, da will man ja nichts sinnvolles berechnen.

Und damit nicht genug - man muss dann auch noch berücksichtigen, für welche Genauigkeit (Verarbeitungsbreite) das überhaupt gilt - die HPC-Gemeinde wünscht dich für ihre Simulationen meist Double Precision (64 bit), für 3D-Grafik in Spielen reicht Single Precision (32 bit) vollkommen, vieles kann man auch schon in Half Precision (16 bit) gut genug nähern. Wer neuronale Netze trainieren will, ist sogar mit 16 bit mehr als ausreichend bedient, der Trend geht da schon zu 8 bit.

Video oder Kryptogeld dagegen sind (in den gängigen Implementationen) zu fast 100% Integer-Code, die aussagekräftigen Kenngrößen für dessen Performance sind in erster Linie Taktfrequenz und Kernzahl. Für Video spielt (in Grenzen) auch noch der Speicher rein, bei Kryptogeld allenfalls in den Varianten, die extra ASIC-feindlich und daher RAM-hungrig designt worden sind.

Und, vollkommen richtig, für die fps in Spielen kann man aus all dem immer noch nichts ablesen, da spielt auch die Engine noch mit rein und mit wievielen Texturen sie hantieren will.

fps in TFLOPS umrechnen zu wollen (oder umgekehrt) oder auch nur aus dem Verhältnis irgendwas schließen zu wollen (außer ob eine Karte eher auf Spiele oder eher auf HPC designt wurde), ist daher ziemlich sinnbefreit.

Re: Richtige Bewertung von Grafikkarten Rechenleistung (TFLOPS)?

Johnny_N — Fri, 11 Dec 2020 08:38:05 GMT

Die FLOPS geben die Rohrechenleistung eines (Grafik-)Prozessors an und beschreiben wie viele Gleitkommaoperationen er pro Sekunde ausführen kann. Beim Rendern von einem Video oder dem Schürfen nach Kryptowährungen kannst du davon ausgehen, dass die Karte mit der höchsten Leistung in FLOPS die Aufgabe auch am schnellsten erledigt.

Für die Leistung in Spielen sind die FLOPS nur bedingt ein aussagekräftiger Faktor, da auch andere Rechenoperationen ausgeführt werden und zB der Speicher und dessen Geschwindigkeit/Anbindung einen Einfluss haben.

Bis zum Erscheinen der aktuellen RTX 3000, bzw. RX 6000 Karten lieferten Nvidia Chips in Spielen mehr fps pro TFLOP. AMD hat bei der neuen Architektur ordentlich nachgebessert. So ist zB die RX 6800 mit 16 TFLOPS in Spielen meist gleich schnell wie die vergleichbare RTX 3070 mit 20 TFLOPS.

Re: Richtige Bewertung von Grafikkarten Rechenleistung (TFLOPS)?

Maximus — Thu, 10 Dec 2020 23:20:21 GMT

Leider ist dein Bild nicht sichtbar.

Um die Leistung verschiedener Grafikkarten zu vergleichen, werden z.B. Benchmarks damit ausgeführt, und dann kann man z.B. hier
https://www.videocardbenchmark.net/gpu_list.php
diese relativ gut vergleichen.

Wobei dieser künstliche Benchmark nicht 1 zu 1 mit der Leistung im Spiel X bei Auflösung Y und Qualitätseinstellung Z vergleichbar ist. Eventuell sind in bestimmten Spielen einige Grafikkarten ein wenig schneller als andere, die im Benchmark knapp vorne liegen.

Aber es ist ein guter Index um mal die Leistung in etwa einzuschätzen.

Richtige Bewertung von Grafikkarten Rechenleistung (TFLOPS)?

TurricanNP — Thu, 10 Dec 2020 21:25:44 GMT

Hallo!

Kann mir jemand erklären wie ich die Angabe "Rechenleistung" bei Grafikkarten, angegeben in FLOPS (Floating Point Operations Per Second), zu verstehen/einzuordnen habe?

Hier im Bild sind 4 GPS´s die links ist am schwächsten, die beiden in der Mitte sind Mittelfeld und die rechts ist die stärkste.

Jetzt könnte man meinen die Grafikleistung der Karten würde an der angegebenen Rechenleistung abzulesen sein. So einfach scheint dies aber nicht zu sein.

Wie verstehe und deute ich diesen Wert richtig um auf die Stärke der GPU schließen zu können?

Für jede hilfreiche Antwort danke ich sehr!

Richtige Bewertung von Grafikkarten Rechenleistung (TFLOPS)?

TurricanNP — Thu, 10 Dec 2020 21:25:44 GMT

Hallo!

Kann mir jemand erklären wie ich die Angabe "Rechenleistung" bei Grafikkarten, angegeben in FLOPS (Floating Point Operations Per Second), zu verstehen/einzuordnen habe?

Hier im Bild sind 4 GPU´s die links ist am schwächsten, die beiden in der Mitte sind Mittelfeld und die rechts ist die stärkste.

Jetzt könnte man meinen die Grafikleistung der Karten würde an der angegebenen Rechenleistung abzulesen sein. So einfach scheint dies aber nicht zu sein.

Wie verstehe und deute ich diesen Wert richtig um auf die Stärke der GPU schließen zu können?

Für jede hilfreiche Antwort danke ich sehr!