Vorlesung Paralleles Rechnen

Waren Anfang des Jahrtausends parallele Systeme noch dem High-Performance-Computing (HPC) vorbehalten, so haben sie mit dem Hardware-Trend hin zu Multicoresytemen mittlerweile auch im Desktop-PC und Serverbereich Einzug gehalten. Um diese Hardwareplattformen optimal auszunutzen sind neue Programmierparadigmen, -sprachen und -werkzeuge notwendig.

Im HPC-Bereich hat die Vernetzung von Arbeitsplatzrechnern mittels leistungsfähiger Kommunikationstechnologien (z. B. Gigabit Ethernet, InfiniBand) zu einer preisgünstigen Plattform für parallele Anwendungen geführt – den sogenannten Clustern. Dabei handelt es sich heutzutage meist um hybride Systeme, d.h. um vernetzte Multicoresysteme. Ein weiterer aktueller Trend ist die Auslagerung rechenintensiver Anwendungen auf die Grafikkarte.

Die Vorlesung stellt die Konzepte der Parallelverarbeitung vor und legt ihren Schwerpunkt auf den Bereich Cluster Computing. Es werden sowohl Programmierparadigmen für Cluster Computing als auch Systemansätze zur Unterstützung paralleler Anwendungen in Clustern wie z.B. das Ressourcenmanagment besprochen.

Veranstalter

Prof. Dr. Bettina Schnor
Steffen Christgau

Modulnummern

• Bachelor Informatik:
  3010, 3020, 3030, 3040, 3050, 3060, 5010, 5020, 5030, 5040, 5050, 5060
• Master Informatik:
  3011, 3021, 3031, 5011, 5021, 5031
• Master Computational Science:
  7010

Ort/Termine

Die Vorlesung wird dienstags von 12:00 Uhr bis 14:00 Uhr im Raum 03.06.H01 gehalten, die Übung findet donnerstags von 12:00 Uhr bis 14:00 Uhr im Raum 03.06.H08 statt.

Events

Materialien

• Vorlesungsfolien
• Übungsfolien
• zusätzliches Material

• Übungsblatt 6
  Abgabe bis zum Mo., 18.07.2016, 14:00 Uhr.
  
• Übungsblatt 5
  Abgabe bis zum Mo., 04.07.2016, 14:00 Uhr.
  Hinweis: Im ursprünglichen Aufgabenblatt sind zwei Fehler enthalten! Bei Aufgabe 5.1.3 ist die Green500-Liste zu betrachten (nicht Top500). Bei Aufgabe 5.4.2 ist die Anzahl der Messungen für vier (nicht drei) und acht Knoten zu bestimmen!
• Übungsblatt 4
  Abgabe bis zum Mo., 20.06.2016, 14:00 Uhr.
  
• Übungsblatt 3
  Abgabe bis zum Mo., 06.06.2016, 14:00 Uhr.
  
• Übungsblatt 2
  Abgabe bis zum Mo., 23.05.2016, 14:00 Uhr.
  
• Übungsblatt 1
  Abgabe bis zum Mo., 02.05.2016, 14:00 Uhr.
  

Themenliste

• Parallelrechnerarchitekturen
• Programmiermodelle für parallele Anwendungen
• Programmiermodelle für Multicoresysteme: Beispiel POSIX-Threads, OpenMP
• Programmiermodelle für Cluster Computing: Beispiel MPI
• Scientific Computing: Beispiel: Fortran 90 und High Performance Fortran
• Graphenbasierte Modellierung von Parallelen Programmen
• Leistungsanalyse von parallelen Anwendungen
• Clustertechnologie: Netzwerke, High-Performance Computing

Anforderungen

Es müssen studienbegleitend mindestens 50% der Hausaufgabenpunkte erreicht werden, um zur abschließenden Prüfung zugelassen zu werden. Die abschließende Prüfung muss mit mindestens mit 4.0 bestanden werden.

Literatur

Parallel Programming: for Multicore and Cluster Systems
Thomas Rauber, Gudula Rünger
Springer, 2. Auflage, 2013

Scientific Computing with Multicore and Accelerators
Jakub Kurzak, David A. Bader, Jack Dongarra
CRC Press, 2010

Parallel Programming
Michael J. Quinn
Mcgraw-Hill Higher Education, 2004

Scalable Parallel Computing: Technology, Architecture, Programming
Hwang/Xu
WCB/McGraw-Hill, 1998

Parallele Programmierung mit MPI
Peter Sanders, Thomas Worsch
Logos Verlag, 1997

Designing and Building Parallel Programs
Ian Foster
Addison Wesley, 1995