Moc płynąca z kart graficznych

Transkrypt

1 Moc płynąca z kart graficznych Cuda za darmo! Czyli programowanie generalnego przeznaczenia na kartach graficznych (GPGPU) 22 października 2013 Paweł Napieracz /20

2 Poruszane aspekty Przetwarzanie równoległe Obliczenia na kartach graficznych: kiedyś/dziś, pokaz wydajności, zastosowania; Architektura GPU Zalety i wady OpenCL Aparapi 22 października /20

3 Przetwarzanie równoległe przetwarzanie wielu instrukcji równocześnie, konieczność wytworzenia kodu współbieżnego: dla czasochłonnych fragmentów programu, kosztowne: inne podejście do programowania, występowanie błędów (np. wyścigi), synchronizacja, dostęp do pamięci; najszybciej zrównolegla się obliczenia niezależne. 22 października /20

4 Obliczenia na kartach graficznych? Kiedyś: wykorzystanie interfejsów do wyświetlania grafiki, tworzenie tekstur i obliczenia przy użyciu DirectX i OpenGL; Dziś: wyspecjalizowane narzędzia programistyczne, kompilacja i uruchomienie własnych programów z użyciem karty graficznej. 22 października /20

5 Ale gdzie te CUDA? Programowanie na karty graficzne umożliwia architektura i zestaw narzędzi, nazwany przez firmę nvidia, CUDA. Alternatywą dla układów graficznych od AMD jest AMD APP. 22 października /20

6 Ale gdzie te CUDA? Moc obliczeń z wykorzystaniem architektury CUDA [1] 22 października /20

7 Ale gdzie te CUDA? Algorytm Floyd Warshall (minimalny dystans w grafie), o złożoności O(n 3 ) dla drzewa z 4096 wierzchołkami [2] Mnożenie macierzy [2] 22 października /20

8 Ale gdzie te CUDA? Algorytm wyliczania ilości dzielników podanych liczb [2] Sprawdzanie czy liczba (19 cyfrowa) jest liczbą pierwszą [2] 22 października /20

9 Gdzie się wykorzystuje? mathlab, PhotoShop's plugins, rendering video, projekty naukowe GIMPS), symulacje, gry komputerowe (obliczenia fizyki). 22 października /20

10 Architektura GPU Porównanie liczby rdzeni w CPU a GPU [3] 22 października /20

11 Architektura GPU Zasięg pamięci i przedstawienie architektury [4] 22 października /20

12 Schemat przetwarzania Podział pracy CPU i GPU w typowym programie z przetwarzaniem masowo-równoległym [5] 22 października /20

13 Zalety i wady... odciążenie CPU, przyśpieszenie obliczeń, dodatkowa pamięć na obliczenia, trudna architektura koszta wytworzenia wysokie, tylko wybrane obliczenia na GPU, kosztowne przesyły danych z pamięci RAM komputera do pamięci RAM karty graficznej, zachowanie kompatybilności wstecznej czasochłonne, wytworzenie szybkiej aplikacji wymaga bardzo dużego doświadczenia. 22 października /20

14 OpenCL otwarty standard dla programowania równoległego, oparty na języku c z dodatkowymi definicjami, między platformowy: nvidia, AMD, Intel, arm, GPU, CPU, alternatywa dla zamkniętych standardów (nvidia CUDA), obecnie wszystkie platformy zaangażowane są w jego rozwój. 22 października /20

15 Aparapi biblioteka napisana w języku Java, tłumaczy w runtime'ie kod Javy na język OpenCL: maksymalnie upraszcza pisanie kodu na GPGPU (z założenia nie musimy nawet o tym pamiętać, że piszemy pod OpenCL'a), Pozwala na uruchamianie kodu na GPU i CPU, wersja rozwojowa wspiera wyrażenia lambda (Java 8). 22 października /20

16 Aparapi Standardowy, sekwencyjny kod w j. Java Przetwarzania masywno-równoległe przy użyciu Aparapi final float ina[] =... final float inb[] =... //(ina.length==inb.length) final float result = new float[ina.length]; for (int i=0;i<array.length;i++){ result[i]=ina[i]+inb[i]; } Kernel kernel = new Kernel() public void run() { int i= getglobalid(); result[i]=inta[i]+inb[i]; } }; Range range = Range.create(result.length); kernel.execute(range); 22 października /20

17 Aparapi zarządzanie pamięcią (host device): kernel.setexplicit(true); get(data); put(data); optymalizacje (np. unikanie pętli kernela): kernel.execute(range, loopcount); przetwarzanie prostych obiektów (typy proste i tablice), używanie różnych zasięgów operacji. 22 października /20

18 Aparapi Wystarczająco rozwinięta, aby przyśpieszyć obliczenia używając technologii Java. 22 października /20

19 Dziękuję za uwagę! Pokaz demo :). 22 października /20

20 Źródła [1] - [2] - [3] - [4] - [5] - Parallel reduction example października /20