Artikel aus dem DLRmagazin 173: Die Supercomputer CARA und CARO unterstützen Forschungsprojekte mit ihren außergewöhnlichen Rechenleistungen

Richtig schnelle Knoten

High Performance Computing (HPC)
Rechner interagieren gemeinsam in einem Cluster und fungieren als leistungsstarker Supercomputer.

Im Jahr 1937 entwickelte Konrad Zuse den ersten frei programmierbaren Rechner der Welt. Mit circa einem Hertz Taktfrequenz und dem Antrieb aus einem Staubsaugermotor ging er als erster Digitalrechner in die Geschichte ein. Die Staubsaugermotoren sind mittlerweile Geschichte. Hinzu kamen dafür Mainboards, Prozessoren, Grafikkarten und Festplatten. Computer können heutzutage mehrere Milliarden Berechnungen pro Sekunde durchführen. Doch gerade in der Wissenschaft stoßen auch sie an ihre Grenzen. Für die Darstellung von Strömungen um einen Flugzeugflügel oder die Simulation des Verhaltens von Treibstoff in einem Raketentriebwerk sind Rechner mit deutlich höheren Leistungen gefragt. Deshalb betreibt das DLR zwei Supercomputer an den Standorten Dresden und Göttingen.

Der HPC-Superrechner CARA
CARA steht im Rechenzentrum des Lehmann-Zentrums der Technischen Universität Dresden.

High Performance Computing (HPC) erzielt eine weitaus größere Rechenleistung als herkömmliche Computer. Sie wird durch die Verbindung einzelner Computer, sogenannte Knoten, in einem Netzwerk erreicht, das man als Cluster bezeichnet. Darin interagieren die Rechner und fungieren zusammen als ein einziger, leistungsstarker Supercomputer. Sie verarbeiten gewaltige Datenmengen mit beeindruckender Geschwindigkeit. Zum Vergleich: Ein solches Cluster ist rund 10.000 Mal schneller als ein herkömmlicher Laptop. Zwei der HPC-Superrechner des DLR tragen die Namen CARA und CARO (Computer for Advanced Research in Aerospace). CARA steht in Dresden und CARO in Göttingen. Betrieben werden sie vom DLR-Institut für Softwaremethoden zur Produkt-Virtualisierung, dem HPC-Kompetenzzentrum des DLR. „Nicht alle kennen sich mit den HPC-Clustern im DLR aus, viele haben jedoch den Bedarf, diese zu nutzen. Das Kompetenzzentrum unterstützt die Institute dabei und berät, wenn neue Nutzerinnen und Nutzer auf das System zugreifen möchten“, sagt Dr. Daniel Molka vom Institut für Softwaremethoden zur Produkt-Virtualisierung. Das Kompetenzzentrum wird von der Abteilung Hochleistungsrechnen betrieben. Den technischen Betrieb gewährleisten Kooperationen mit dem Zentrum für Informationsdienste und Hochleistungsrechnen (ZIH) der Technischen Universität Dresden und mit der Gesellschaft für Wissenschaftliche Datenverarbeitung Göttingen (GWDG).

Die Leistung der Computer

Der HPC-Superrechner CARO
Der Großrechner CARO steht in Göttingen. Er wird unter anderem für die numerische Simulation künftiger Flugzeuge oder Windkraftanlagen eingesetzt.

Über fast 150.000 Prozessorkerne verfügt der Hochleistungsrechner CARA. CARO in Göttingen besitzt sogar rund 175.000 Prozessorkerne. Im Zuge einer Erweiterung wurden einige Knoten mit Grafikkarten (GPUs) ausgestattet. In der Liste der schnellsten Computersysteme der Welt war CARO zum Zeitpunkt der Einweihung im Juli 2022 unter den Top 150 vertreten. Dieses Cluster erreicht eine Rechenleistung von 3,46 Petaflops, also 3.460 Billionen Rechenoperationen in der Sekunde.

Hohe Rechenleistung beim DLR

Die Rechenleistung von CARA und CARO nutzen die Wissenschaftlerinnen und Wissenschaftler, um komplexe Simulationen durchzuführen oder um mit Methoden der künstlichen Intelligenz zu arbeiten. Bisher nehmen 25 DLR-Institute die beiden Supercomputer in Anspruch. Weitere haben Bedarf angemeldet. Vor allem die Institute mit dem Forschungsschwerpunkt Luftfahrt, wie das Institut für Aerodynamik und Strömungstechnik oder das Institut für Aeroelastik, greifen auf die Kapazität der Superrechner zurück.

Strömungssimulation einer Windkraftanlage
Auch die Aerodynamik und das Strömungsverhalten von Windkraftanlagen werden auf CARO und CARA simuliert.

Besonders oft kommen CARA und CARO bei aufwändigen Simulationen ins Spiel. Auf Basis von physikalischen und mathematischen Modellen werden zum Beispiel Komponenten von Flugzeugen oder Windkraftanlagen in die virtuelle Welt übertragen. Wenn es darum geht, ein besseres Verständnis der Strömungsphysik als Grundlage für Technologieentwicklung zu gewinnen, können diese Simulationen äußerst komplex werden. „Wenn wir eine Windkraftanlage virtuell abbilden, gehen wir bis ins kleinste geometrische Detail“, sagt Dr. Cornelia Grabe vom Institut für Aerodynamik und Strömungstechnik. Dadurch können die Forschenden virtuelle Tests zum Strömungsverhalten oder zur Strukturmechanik durchführen und wichtige Leistungsparameter wie die Effizienz, Haltbarkeit oder Schallerzeugung untersuchen und bewerten. Je kleinteiliger die Darstellung ist und je mehr Phänomene berücksichtigt werden, desto größer wird die benötigte Rechenleistung. „Der Vorteil ist, dass wir mit solchen Simulationen im Vorfeld physische Experimente testen können – früher mussten wir Prototypen bauen und Versuche durchführen. Heute geschieht vieles davon virtuell“, sagt Dr. Dirk Schneider vom Institut für Raumfahrtantriebe. Dennoch sind Experimente immer noch unverzichtbar, denn ab einem gewissen Punkt müssen die Ergebnisse aus den Simulationen in der realen Welt nachgewiesen werden.

Strömungssimulation
Die Strömungssimulation zeigt, wie sich die Luft an dem Tragflügel eines Flugzeugs verhält. Diese Ströme variieren je nach Geschwindigkeit und Neigungswinkel.

Für verschiedenste Forschungsbereiche im Einsatz

Bei CARA und CARO nehmen Strömungssimulationen den größten Anteil an Rechenzeit ein. In einer Anwendung simulierten Forscherinnen und Forscher aus dem Institut für Aerodynamik und Strömungstechnik die Luftumströmung eines Flugzeugflügels während des Starts. Je nachdem, wie sich verschiedene Faktoren wie Neigungswinkel oder die Geschwindigkeit des Flugzeugs veränderten, variierten auch die Strömungsphänomene, die sich am Flügel bildeten. Die japanische Raumfahrtbehörde JAXA führte dazu Messungen in einem Windkanal an einem Modell durch und konnte die Ergebnisse der Simulation und des Experiments vergleichen.

Simulation einer Rakete im Rückwärtsflug
In der Abteilung Raumfahrzeuge in Göttingen wird an der Aerodynamik wiederverwendbarer Trägerraketen geforscht. Das Bild zeigt die Wärmebelastung auf der Raketenoberfläche beim Bremsmanöver im Rückwärtsflug, wenn drei der insgesamt neun Triebwerke eingeschaltet sind. Normalerweise würde sich die Rakete beim Wiedereintritt in die Erdatmosphäre stark aufheizen. Der Abgasstrahl der drei mittleren Triebwerke schirmt die Unterseite der Rakete von der heißen Luftströmung ab und verhindert dies.

Simulationen werden aber auch im Bereich der Raumfahrt angewendet. Forscherinnen und Forscher aus dem DLR-Institut für Aerodynamik und Strömungstechnik entwickeln hierzu Simulationsverfahren, um die komplexen physikalischen Vorgänge in Raketenbrennkammern effizient und genau vorhersagen zu können. Zu verstehen, wie Akustik und Wärmefreisetzung miteinander in Verbindung stehen, ist wichtig, um Verbrennungsinstabilitäten vorhersagen zu können. Das sind starke akustische Schwingungen, die in Raketenbrennkammern auftreten können und sogar zur Zerstörung des Antriebs und zum Verlust des Raumfahrzeugs führen können. Aufgrund der komplexen physikalischen Vorgänge in der Brennkammer und der kleinen, turbulenten Wirbel beanspruchen diese Simulationen sehr hohe Rechenleistungen auf dem HPC-Cluster.

Kabine mit Thermo-Dummys
Diese HPC-Simulation zeigt eine Kabine, in der Thermo-Dummys sitzen. Mit ihr wurden beispielsweise verschiedene Konzepte der Belüftung untersucht. Unter anderem erforschten die Wissenschaftlerinnen und Wissenschaftler, wie sich ausgeatmete Partikel in der Umgebung verteilen.

Am DLR-Institut für Raumfahrtantriebe in Lampoldshausen werden die Verbrennungs- und Wärmeübergangsprozesse in Flüssigkeitsraketentriebwerken modelliert. Wenn Flüssigkeitsraketentriebwerke entwickelt werden, ist es wichtig, die thermodynamischen Zustände in der Brennkammer sowie die Kühlungsprozesse vorhersagen zu können. Für diese Simulationen nehmen die Forschenden erhebliche Ressourcen auf dem HPC-Cluster CARO in Göttingen in Anspruch. „Die Simulationen werden immer komplexer“, sagt Prof. Sabine Roller, Direktorin des Instituts für Softwaremethoden zur Produkt-Virtualisierung, und ergänzt:„Das liegt daran, dass mit wachsender Rechenkapazität eine detailliertere Darstellung in der Simulation möglich ist.“ Zudem nutzen Institute mit dem Fokus auf künstlicher Intelligenz immer mehr die Rechenleistungen der Supercomputer. Außerdem greifen auch Bereiche auf CARO und CARA zurück, die mit Big Data arbeiten. Dies ist vor allem der Fall, wenn große Statistiken mit vielen Daten aufgestellt werden.

Softwaremöglichkeiten für die Anwendung

Damit die Simulationen auf CARA und CARO laufen können, benötigen sie bestimmte Software. Diese schreiben die Forscherinnen und Forscher aus den jeweiligen DLR-Fachbereichen. Eine weitere Möglichkeit ist der Zugriff auf Open-Source-Software. Hier ist der Quellcode offen zugänglich, sodass beliebige Änderungen, abhängig von dem Projekt und der Untersuchung, vorgenommen werden können. Bei kommerzieller Software können zwar einzelne Parameter eingestellt werden, jedoch sind die Möglichkeiten begrenzt. Deshalb nutzen die DLR-Wissenschaftlerinnen und -Wissenschaftler meist eine selbstgeschriebene beziehungsweise anpassbare Software. Unterstützt werden sie dabei von Fachleuten aus dem Institut für Softwaremethoden zur Produkt-Virtualisierung. Sie besitzen Wissen zur Informatik sowie Programmierung und kennen die Rechner genau.

Hoher Energieverbrauch, sinnvoll genutzt

Simulationen können Forschungsprojekte unterstützen
Flugzeuge und deren Antriebe zu entwickeln, ist äußerst komplex. Simulationen beschleunigen und erleichtern diesen Prozess.

Die hohe Rechenleistung von CARA und CARO erfordert viel Energie. Mit einer Leistungsaufnahme von bis zu 1.200 Kilowatt (CARA) beziehungsweise 800 Kilowatt (CARO) gehören die Hochleistungsrechner zu den Großverbrauchern im DLR. Die beiden Rechner nutzen eine Warmwasserkühlung mit einer Vorlauftemperatur von 35 Grad Celsius – zum Vergleich: Übliche Kühlwassertemperaturen liegen zwischen 15 und 18 Grad Celsius und sind deutlich energieintensiver. Die Abwärme der Wasserkühlung nutzt das Rechenzentrum Dresden, um die umliegenden Gebäude zu heizen. Zudem gibt es Pläne, das Rechenzentrum künftig in das Dresdner Fernwärmenetz einzubinden. Auch bei CARO in Göttingen wird die Wärme genutzt – hier dazu, die Gewächshäuser der Fakultät für Agrarwissenschaften zu heizen.

Die ersten Rechenmaschinen

Konrad Zuse neben der Z3
Die Z3 war die erste funktionsfähige automatisch programmgesteuerte Rechenmaschine der Welt.
Credit:

Deutsches Museum

Der Einsatz von Computern in der Luftfahrtforschung geht bereits auf die 1940er Jahre zurück. Konrad Zuse (1910-1995) entwickelte in den 1930er Jahren seine ersten elektronischen Rechenmaschinen. Das Versuchsmodell 2, auch Z2 genannt, stellte er 1939 in der Deutschen Versuchsanstalt für Luftfahrt (DVL) in Berlin-Adlershof vor – einer Vorgängerorganisation des DLR. Die DVL erkannte das Potenzial, das in der neuartigen Rechenmaschine steckte, und förderte seine Arbeiten. 1941 präsentierte Zuse die Z3, die erste funktionsfähige automatisch programmgesteuerte Rechenmaschine der Welt. Mit dieser ließen sich beispielsweise Berechnungen von Flattererscheinungen an Flugzeugen vornehmen, die händisch anspruchsvoll und langwierig waren. Die weiterentwickelte Z4 konnte Zuse zu Beginn des Jahres 1945 in die Aerodynamische Versuchsanstalt nach Göttingen evakuieren und dort kurzfristig zwischenlagern. Auch hier wurde die Leistungsfähigkeit der Rechenmaschine bei einer Vorführung von den Institutsleitern bestaunt.

Die Simulationen laufen meist parallel auf den Supercomputern. Dabei streben die DLR-Fachleute eine kontinuierliche und hohe Auslastung der Computer an. Die meisten Berechnungen nutzen nur einen kleinen Teil der Maschinen, wenige beanspruchen ein Viertel oder die Hälfte der bestehenden Kapazitäten. Außer in der Anzahl verwendeter Knoten unterscheiden sich die von den Nutzenden durchgeführten Berechnungen auch stark in ihrer Laufzeit. Diese reicht von wenigen Minuten bis zu mehreren Tagen. Dabei müssen die Ressourcen möglichst fair auf die Institute und deren Nutzerinnen und Nutzer verteilt werden. Die Auslastung hoch zu halten, erfordert dementsprechend eine gute Planung.

Verarbeitung gewaltiger Datenmengen
CARA in Dresden beinhaltet fast 150.000 Recheneinheiten.

Ohne Nachrüsten geht es nicht

Wenn man sich einen neuen Laptop anschafft, kann man sicher sein, dass dieses Modell durch technologische Weiterentwicklungen bald schon überholt sein wird. Dies ist auch bei den Superrechnern nicht anders. Die Hochleistungsrechner auf dem aktuellen Stand der Technik zu halten, ist für die Forschungsarbeit mit ihren immer komplexer werdenden Simulationen elementar. Daher ist eine fünf- bis sechsjährige Nutzungsdauer pro Supercomputer angestrebt. Danach wird die Hardware nachgerüstet, um mit dem wachsenden Bedarf an Simulationen Schritt halten zu können. „Momentan gibt es keine bessere Alternative zu den Hochleistungsrechnern. Daher kann man davon ausgehen, dass auch noch in 30 Jahren mit ihnen gearbeitet wird“, sagt Dr. Daniel Molka. Aufgrund der stetigen Weiterentwicklungen von Flugzeugmodellen werden auch zukünftig die HPC-Cluster benötigt. Mit dem Fokus auf klimafreundlichem Fliegen ist es vorstellbar, dass Flugzeuge eines Tages anders aussehen werden, als wir es gewohnt sind. Doch bevor die Modelle gebaut sind und mit ihnen experimentiert wird, werden unzählige Simulationen, die unter anderem auf den Superrechnern des DLR laufen, durchgeführt.

Ein Beitrag von Anja Philipp aus dem DLRmagazin 173

Kontakt

Anja Philipp

Kommunikation Berlin, Neustrelitz, Dresden, Jena, Cottbus/Zittau
Deutsches Zentrum für Luft- und Raumfahrt (DLR)
Kommunikation
Rutherfordstraße 2, 12489 Berlin-Adlershof
Tel: +49 30 67055 8034

Julia Heil

Redaktion DLRmagazin
Deutsches Zentrum für Luft- und Raumfahrt (DLR)
Kommunikation und Presse
Linder Höhe, 51147 Köln