Zrównoleglanie i automatyczne dostosowanie algorytmów numerycznych do architektur hybrydowych z akceleratorami GPU

Jeden z najbardziej perspektywicznych kierunków zwiększenia wydajności współczesnych komputerów stanowi budowa systemów obliczeniowych wykorzystujących rozwiązania hybrydowe, łączące wielordzeniowe procesory ogólnego przeznaczenia i dedykowane, masywnie zrównoleglone akceleratory obliczeniowe, takie jak np. procesory graficzne GPU czy też koprocesory Intel Xeon Phi.

Jednakże pomimo potencjalnie dużej mocy obliczeniowej, efektywne przeprowadzenie obliczeń równoległych w środowisku architektur hybrydowych, charakteryzujących się znacznym stopniem heterogeniczności, jest dla programistów dużym wyzwaniem. Budowa równoległych aplikacji dla takich środowisk jest dużo bardziej skomplikowana niż tworzenie programów dla konwencjonalnych, homogenicznych systemów równoległych.

Efektywne wykorzystanie dostępnych zasobów wymaga odpowiedniego odwzorowania algorytmów oraz jak najbardziej optymalnego równoważenia obciążenia. W niniejszej monografii metody rozwiązywania powyższych problemów przedstawiono na przykładzie algorytmów stosowanych do analizy przepływów geo- i astrofizycznych w modelu numerycznym EULAG, zaproponowanym przez polskich badaczy i rozwijanym następnie przez szerokie grono uczonych z rożnych krajów, zajmujących się m.in. numeryczną prognozą pogody.

Książka jest przeznaczona dla szerokiego kręgu osób zainteresowanych architekturą, programowaniem i wykorzystaniem współczesnych systemów równoległych, a w szczególności systemów z masywnie wielordzeniowymi akceleratorami obliczeniowymi, takimi jak procesory graficzne GPU.

Spis treści:

1. Wstęp

2. Architektury hybrydowe z akceleratorami Obliczeniowymi
2.1. Kierunki rozwoju architektur hybrydowych
2.2. Architektury na bazie CPU i GPU
2.3. Wprowadzenie do współczesnych architektur akceleratorów GPU
2.4. Architektura akceleratorów obliczeniowych firmy Intel
2.5. AMD Fusion jak porzykład jednoukładowego procesora hybrydowego
2.6. Ocena efektywności wykorzystania architektur hybrydowych

3. Środowisko programistyczne dla architektur hybrydowych
3.1. OpenCL jako standard programowania architektur wielordzeniowych
3.2. Hybrydowe środowisko programowania
3.3. Intel Cilk Plus: standard programowania z pamięcią współdzieloną
3.4. Programowanie niskopoziomowe z wykorzystaniem rozszerzenia AVX

4. Model numeryczny EULAG i zagadnienie zrównoleglania algorytmu MPDATA
4.1. Wproadzenie do modelu numerycznego EULAG
4.2. Okreslenie bazowych procedur numerycznych w modelu EULAG
4.3. Opis wielowymiarowego dodatnio określonego algorytmu adwekcji
4.4. Analiza zależności informacyjnych w algorytmie MPDATA
4.5. Analiza ograniczeń realizacji algorytmu MPDATA na architekturach hybrydowych

5. Adaptacja obliczeń w w algorytmie MPADTA do architektur hybrydowych
5.1. Metoda adaptacji algorytmu MPDATA do architektur hybrydowych
5.2. Propozycja metody równoważenia obciążenia obliczeń
5.3. Zarządzanie zasobami obliczeniowymi CPU - GPU

6. Odwzorowanie algorytmu MPDATA na architektury procesorów CPU
6.1. Opracowanie blokowej dekompozycji algorytmu MPDATA
6.2. Opracowanie równoległej organizacji obliczeń dla wielordzeniowej architektury CPU
6.3. Badanie wydajności obliczeń

7. Odwzorowanie algorytmu MPDATA na architektury GPU
7.1. Określenie poziomów zrównoleglania obliczeń dla allgorytmu MPDATA
7.2. Metody dekompozycji algorytmu MPDATA w oparciu o kernele obliczeniowe
7.3. Przetwarzanie strumieniowe jako sposób nałożenia transferu danych i bliczeń
7.4. Zrównoleglanie i wektoryzacja obliczeń w strukturze zasobów obliczeniowych GPU
7.5. Opracowanie dyspozytora zadań dla organizacji obliczeń w modelu EULAG

8. Metody automatycznego dostosowania obliczeń do architektur GPU
8.1. Ogólna charakterystyka automatycznego dostosowania obliczeń do architektur komputerowych
8.2. Koncepcja automatycznego dostosowania obliczeń dla algorytmu MPDATA
8.3. Zdefiniowanie zbioru parametrów charakteryzujących proces dostosowania
8.4. Zdefiniowanie przestrzeni poszukiwań
8.5. Automatyczne wyznaczanie konfiguracji algorytmu MPDATA
8.6. Weryfikacja poprawności i badanie efektywności mechanizmu autotuningu
8.7. Badanie wydajności opracowaniej implementacji algorytmu MPDATA dla GPU

9. Badanie wydajności obliczeń dla wybranych platform hybrydowych
9.1. Hybrydowe platformy testowe
9.2. Wyniki badań eksperymentalnych

10. Podsumowanie
10.1. Wnioski końcowe
10.2. Kierunki dalszych badań