Tarnów. nowoczesne technologie. Tarnów - 27 marca 2007 r.

Transkrypt

1 Tarnów i nowoczesne technologie Tarnów - 27 marca 2007 r.

2 Akceleracja obliczeń w ultraszybkich zastosowaniach Prof. Kazimierz Wiatr Senator RP Przewodniczący Komisji Nauki, Edukacji i Sportu Dyrektor ACK Cyfronet AGH Przewodniczący Rady Konsorcjum Pionier

3 Dzisiejsze wymagania systemów obliczeniowych szybkość!!!! cena wielkość niezawodność

4 Szybkość komputerów wczoraj dziś jutro

5 Metody zwiększania szybkości pracy komputerów szybszy zegar optymalizacja kodu wiele procesorów architektura wewnętrzna sprawne otoczenie procesora

6 Rodzaje komputerów komputery osobiste superkomuptery architektury specjalizowane

7 Akceleracja obliczeń g zbyt długie czasy obliczeń w procesorach GPP i DSP oraz komputerów HPC g poszukiwanie przyspieszenia-akceleracji obliczeń g ograniczenie rodzaju obliczeń i ich aplikacji g poszukiwanie nowych jakościowo metod szybkiej realizacji algorytmów S = t sys_klasycznego / t sys_specjalizowanego

8 Akceleracja obliczeń w systemach wieloprocesorowych Dla systemów wieloprocesorowych (Prawo Amdahl a) S = (s + p) / (s + p/n) gdzie: s - czas algorytmu w części szeregowej programu p - czas algorytmu w części równoległej

9 Akceleracja obliczeń w systemie wieloprocesorowym S (n) s = 0% s = 5% s = 10% s = 15% 0 liczba procesorów (n)

10 Potrzeby obliczeniowe systemy on-line systemy off-line np. obliczenia symulacyjne DNA (ok.100 procesorów Itanium2): 20 atomów - 3 godziny 200 atomów - 34 lata np. medycyna z interakcją itp.

11 Sprzętowe metody akceleracji obliczeń Systemy obliczeniowe Wpływ architektury systemu na szybkość obliczeń Specjalizowane procesory sprzętowe Implementacja w układach FPGA Parametryzacja implementacji Rekonfigurowalne systemy obliczeniowe Dedykowane użytkownikowi platformy CCM Hardware/Software CoDesign Elementy IP Szybkość pracy systemów obliczeniowych

12 Kierunki badawcze poszukiwanie przyspieszenia obliczeń ograniczenie rodzaju obliczeń i ich aplikacji poszukiwanie nowych jakościowo metod szybkiej realizacji algorytmów poszukiwania w 2 kierunkach: specjalizowane elementy obliczeniowe - procesory dedykowane połączenia tych elementów - architektura prace badawcze oprzeć na realnych możliwościach implementacji w dostępnych technologiach

13 Sprzętowa akceleracja obliczeń wielkie ilości przetwarzanych danych bardzo szybkie systemy obliczeniowe algorytmy zdominowane przez dane algorytmy zdominowane przez instrukcje

14 Liczba przesłań operandów w operacjach przetwarzania obrazów OPERACJA 1 PIKSEL 1 OBRAZ 1 SEKUNDA LUT MEDIANA KONWOLUCJA 3x

15 Liczba operacji w przetwarzaniu obrazów (w czasie 1 s) OPERACJA MNOŻENIA DODAWANIA PRZESŁANIA PORÓWNANIA LUT MEDIANA MEDIANA KONWOLUCJA 3x

16 Architektura MISD specjalizowanych procesorów sprzętowych FPGA FPGA FPGA JS JS... JS SR SR SR A/C SD SD SD JP JP JP SD PAMIĘĆ VIDEO SD BUS

17 Schemat blokowy architektury potokowej DePiAr L Sygnały Przerwan Procesor Dane Video WEJŚCIE P P P WYJŚCIE Sygnały Sterujące Magistrala Danych [8 bitów] Magistrala Adresowa [13 bitów] Magistrala VME

18 Moduł z architekturą potokową DePiAr

19 Architektura potokowa DePiAr Zalety: minimalizacja czasu transmisji minimalizacja czasu obliczeń przez dedykowane procesory sprzętowe procesory są autonomiczne: elastyczna zmiana kolejności operacji niezależne projektowanie procesorów implementacja w dowolnym otoczeniu sprzętowym dostęp do procesorów z zewnętrznej magistrali: dynamiczna zmiana parametrów przetwarzania dynamiczna rekonfiguracja kolejności operacji Wymagania: kolejnoliniowy sygnał wizyjny szybka transmisja na wyjściu potoku konieczność zachowania wymogów czasowych: jednakowe opóźnienia dla danych i sygnałów sterujących opóźnienie wielokrotnością czasu trwania piksela

20 Czasy realizacji operacji wizyjnych: DePiAr, DSP i GPP System Histogram Odejmowanie Konwolucja 3 3 Mediana LUT DePiAr 15 MHz 66,0 ns 132,0 ns 102,0 μs 68,0 μs 66,0 ns 198,0 ns 198,0 ns TMS320C80 4,3 ms 5,4 ms 19,4 ms 10,7 ms Dedykowany moduł Pentium II 466 MHz 4,0 ms 2,7 ms 6,8 ms 3,0 ms Akceleracja

21 Implementacja w układach FPGA

22 Parametryzacja implementacji w układach FPGA parametryzacja szybkości pracy parametryzacja użytych zasobów układu FPGA automatyczna generacja kodu VHDL optymalizacja implementacji struktur obliczeniowych DA

23 Dobór struktury elementów obliczeniowych układy mnożące bezmnożne MM układy mnożące LM z pamięcią LUT układy ze stałym współczynnikiem KCM układy ze zmiennym współczynnikiem VCM układy z dynamiczną rekonfiguracją DKCM

24 System z wielokrotnym wykorzystaniem do obliczeń jednego układu FPGA FPGA Linia transmisyjna FPGA A C C A Kamera Przyjęcie danych Kompresja Wstępne przetworzenie Modulacja Pamięć konfiguracyjna

25 Parametry rekonfiguracji układów FPGA Seria układu Komórki CLB Bramki [ 1000] Czas rekonfig. Rekonfig. częściowa Flex [ms] Flex [ms] Flex [ms] XC ,5 10 [ms] XC [ms] XC4000EX/XL [ms] XC ,2 [ms] Y Spartan [ms] Virtex ,1 [ms] Virtex II [ms] Y AT [ms] Y AT40K [ms] Y QL [ms] DY [ms]

26 Systemy CTR i RTR systemy rekonfigurowane przed wykonaniem całości obliczeń CTR (ang. Compile Time Reconfigurable), systemy rekonfigurowane w trakcie obliczeń w celu wielokrotnego wykorzystania tego samego sprzętu dla realizacji różnych fragmentów realizowanego algorytmu RTR (ang. Run Time Reconfigurable).

27 Efektywność stosowania systemów CTR i RTR f = T T R O E E RTR CTR max 1 f

28 Dedykowane użytkownikowi platformy obliczeniowe CCM Custom Computing Machines Elasty czność CISC RISC DSP CCM FPGA/CPLD Specjalizowane moduły ASIC Wydajność Wydajność a elastyczność układów obliczeniowych

29 Architektura karty procesorowej w systemie Splash2 SBus Poprzednia karta 36 M0 M1 M2 M3 M4 M5 M6 M7 M8 X1 X2 X3 X4 X5 X6 X7 X8 SIMD 36 X0 Matryca krzyżowa (crossbar switch) RBus 36 X16 X15 X14 X13 X12 X11 X10 X9 Następna karta 36 M16 M15 M14 M13 M12 M11 M10 M9

30 Implementacja detekcji obiektów i etykietowania Buforowanie danych Oznaczanie Scalanie Scalanie PE-0 PE-1 PE-2 PE-3 PE-4 PE-5 PE-6 PE-7 PE-8 Wejście wideo Wyjście wideo PE-16 Układy niewykorzystywane PE-15 PE-14 PE-13 PE-12 PE-11 PE-10 PE-9 Formatowanie danych wyjściowych

31 Implementacja transformacji Hough a Wejście wideo LUT i szeregowanie Hough P1 Hough P2 Hough P3 Hough P4 Hough P5 Hough P6 PE-0 PE-1 PE-2 PE-3 PE-4 PE-5 PE-6 PE-7 PE-8 Bufor wejścia Wyjście wideo PE-16 PE-15 PE-14 PE-13 PE-12 PE-11 PE-10 PE-9 Hough P14 Hough P13 Hough P12 Hough P11 Hough P10 Hough P9 Hough P8 Hough P7

32 Implementacja szybkiej transformaty Fouriera FFT Podwójne buforowanie Bank 1 lewy renumeracja Algorytm Butterfly PE-0 PE-1 PE-2 PE-3 PE-4 PE-5 PE-6 PE-7 PE-8 Wejście wideo Wyjście wideo PE-16 PE-15 PE-14 PE-13 PE-12 PE-11 PE-10 PE-9 Filtracja w dziedzinie częstotliwości Bank 2 prawy renumeracja

33 Projektowanie metodą Hardware/Software CoDesign Wczesne i późne rozdzielanie hardware u i software u w projektowaniu systemów a) b) Design Design Hardware Software Hardware Software

34 Hardware/Software CoDesign Kod źródłowy ( C ) Podział hardware/software Hardware (PLD, FPGA) Software (up, uc, DSP) Język opisu sprzętu (VHDL, Verilog) Język programowania (C, Asembler)

35 Wzrost pojemności układów programowalnych PLD RODZAJ FIRMA BRAMKI CLB I/O REJESTRY KONFIG. Classic Altera EEPROM Max5000 Altera EPROM Flex8000 Altera SRAM APEX 20k Altera SRAM APEX II Altera SRAM ACT2 Actel OTP A500k Actel AX2000 Actel ATV5100 Atmel EPROM ATK40k Atmel SRAM XC4000 Xilinx SRAM XC9500 Xilinx ISP(EEPROM) SPARTAN Xilinx SRAM VIRTEX Xilinx SRAM (2,5V) VIRTEX II Xilinx SRAM (2,5V) VIRTEX Pro Xilinx SRAM (1,5V)

36 Struktura układu FPGA serii Virtex-II Pro Pamięć blokowa BSRAM PowerPC Pamięć blokowa BSRAM Logika stała Logika rekonfigurowalna

37 Zasoby układów FPGA serii Virtex-II Pro Układ Rocket Power LC Slice Distr. RAM Mnożarki BSR DCM I/O I/O PC kb 18x18 kb XC2VP XC2VP XC2VP XC2VP XC2VP XC2VP XC2VP XC2VP XC2VP XC2VP

38 Lokalizacja zasobów w układzie Virtex-II Pro

39 Przyłączenie wbudowanego procesora PowerPC do zasobów układu Virtex-II Pro

40 Blok łącz szeregowych Rocket I/O o przepustowości 3,125 Gb/s

41 Połączenie elementów IP poprzez interfejs IPIF z magistralą peryferyjną OPB i magistralą lokalną procesora PLB

42 Przyłączenie jednego z procesorów PowerPC 405 do magistrali lokalnej procesora PLB oraz układów peryferyjnych

43 Elementy IP - operacje przetwarzania obrazów Funkcja Biblioteka Firma Układ Użyte zasoby f [MHz] FFT/IFFT 1024 p-kty LogiCORE Xilinx XC2V % 100 FFT/IFFT 64 p-kty LogiCORE Xilinx XC2V % 100 FFT/IFFT 32 p-kty LogiCORE Xilinx XC2V % 110 FFT/IFFT 16 p-któw LogiCORE Xilinx XC2V % 130 2D DCT/IDCT AllianceCORE Barco-Silex XC2V % 133 2D FDCT AllianceCORE CAST XC2V % 83 2D DWT AllianceCORE CAST XC2V % 52 FIDCT AllianceCORE Telecom XCV % 78 MAC FIR LogiCORE Xilinx XCV % Dekoder Huffmana AllianceCORE CAST XC2V % 25 Dekoder Reed Solomon AllianceCORE Telecom XC2V % 61 TMS32025 DSP core AllianceCORE CAST XC2V % 63

44 Wzrost liczby tranzystorów w układach różnego typu FPGA Intel PowerPC AMD Lata

45 Mikroprocesor z rekonfigurowalnym koprocesorem Główny procesor Cache instrukcji Cache danych Globalna jednostka kontrolna Rejestry danych Matryca rekonfigurowalna Koprocesor rekonfigurowalny Interfejs jednostki

46

47 Potrzeby obliczeniowe systemów nieustannie rosną szybkość akwizycji 1000 do 5000 obrazów na sekundę rozdzielczość 128x128 i 256x256 napływ pikseli do 327,68 MHz (3,1 ns) standardowo 14,75 MHz (67,8 ns)

48 1280 x 1024 x 628 = 823 MHz ( Hz) 10 bitów/piksel

49 Logika rekonfigurowana za pomocą internetu wykorzystywana do akceleracji obliczeń Host PAVE SIF WindRiver PAVE Payload Upgrade Portal Target PAVE API WindRiver TCP / IP Network PAVE C++ Application PAVE API VxWorks RTOS VxWorks Board Support Package (BSP) Microprocessor FPGA

50 Infrastruktura informatyczna ACK Klaster PC RackSaver 2 TFLOPS Klaster IBM BladeCenter HS21-1,2 TFLOPS SGI Altix GFLOPS Klaster HP Integrity rx GFLOPS SGI Altix GFLOPS HP Integrity SuperDome - 48 GFLOPS SunFire ,2 GFLOPS SunFire V GFLOPS 2 x 10 Gbps 4,6 TFLOPS

51 Komputery Dużej Mocy Obliczeniowej KDMO

52 system operacyjny: Suse Linux Enterprise Server 9 konfiguracja: 128 procesorów Intel Itanium 2 z zegarem 1.5 GHz pamięć operacyjna 256 GB pamięć dyskowa 1,46 TB SGI Altix 3700 moc obliczeniowa 768 Gflops

53

54 Klaster komputerów PC 384 procesorów Xeon 440 GB pamięci operacyjnej 17.4 TB pamięci dyskowej moc obliczeniowa 2071 Gflops Klaster serwerów HP Integrity rx procesorów Intel Itanium2 56 GB pamięci operacyjnej 2 TB pamięci dyskowej moc obliczeniowa 291 Gflops

55 Klaster obliczeniowy IBM BladeCenter HS21 system operacyjny: Linux RedHat konfiguracja: 112 procesorów Intel Xeon Dual Core 2.66 GHz pamięć operacyjna: 448 GB pamięć dyskowa: 5TB moc obliczeniowa 1192 Gflops

56 SGI Altix 4700 system operacyjny: Suse Linux Enterprise Server 9 konfiguracja: 32 procesory Intel Itanium 2 z zegarem 1.66 GHz pamięć operacyjna 64 GB pamięć dyskowa 1,8 TB moc obliczeniowa 212 Gflops

57 Hierarchiczny system składowania danych

58 Hierarchiczny system składowania danych W ACK CYFRONET AGH serwery obliczeniowe i sieciowe przyłączone są do centralnego zasobu pamięci dyskowej o pojemności 130 TB Macierze dyskowe: HP XP TB HP EVA TB Biblioteki taśmowe: ATL pojemność 10 TB ATL pojemność 7 TB HP ESL712e - pojemność 280 TB

59 Wykorzystanie SGI Altix 3700 w roku 2006 w/g dyscyplin naukowych

60 Wykorzystanie SGI 2800 w roku 2006 w/g dyscyplin naukowych

61 Wykorzystanie SGI 2800 w roku 2005 w/g dyscyplin naukowych rolnictwo 2% inż.materiałowa 3% medycyna 3% fizyka 4% elektronika 9% budownictwo 1% geologia 1% informatyka 1% mechanika 1% metalurgia 1% chemia 74%

62 Wykorzystanie SGI 2800 w roku 2004 w/g dyscyplin naukowych inż.materiałow a 2% fizyka 1% rolnictw o 1% informatyka 3% biologia 4% medycyna 2% elektrotechnika 1% mechanika 1% elektronika 4% chemia 81%

63 Wykorzystanie SGI 2800 w roku 2003 w/g dyscyplin naukowych

64 Zestawienie oprogramowania aplikacyjnego Program SGI 2800 SGI Altix 3700 SUN Fire 6800 HP Super Dome SGI Onyx 300, SGI Octane/SE ABAQUS x x x x Accelrys/Insight II x Accelrys/Cerius2 x Accelrys/Catalyst x Accelrys/Quanta x ANSYS x x x ARC/INFO x ERDAS/IMAGINE x FIDAP x x FLUENT x x x x GAMESS x GAUSSIAN 03 x x MAPLE x x MATHEMATICA x MATLAB x x MSC/FATIGUE x x MSC/NASTRAN x x MSC/PATRAN x x OPERA-2d x x ORACLE x SAS x SYBYL x

65 Aplikacje chemiczne ACCELRYS InsightII - do modelowania dużych molekuł biologicznych Cerius2 - do modelowania małych molekuł i ciała stałego Quanta - do modelowania molekularnego przeznaczony z zakresu krystalografii Catalyst - pakiet do projektowania leków SYBYL - pakiet programów do modelowania i analizy struktur molekularnych. Celem oprogramowania jest budowanie, analiza i manipulacja molekułami. GAUSSIAN - system przeznaczony do obliczeń orbitali molekularnych przy użyciu metod półempirycznych i ab initio. GAMESS - wszechstronny pakiet do obliczeń chemii kwantowej.

66 SGI Altix 4700 i projekt Gaussian Pakiet Gaussian (82% obliczeń) Przyśpieszenie obliczeń kwantowo-chemicznych Operacje algebraiczne na macierzach

67 Problemy do rozwiązania Funktory FP Implementacja bibliotek BLAS i LAPACK Równoległe algorytmy operacji na macierzach Biblioteki softwer owe

68 SGI RASC Blade

69 SGI RASC Blade Pojedynczy moduł rekonfigurowany

70 SGI RASC Blade

71 RASC Technology

72 RASC Technology - NUMAlink

73 RASC Technology Różne konfiguracje pracy

74 Zagadnienia realizowane w ramach projektu Profiling Implementacja wytypowanych w profilingu funkcji Stworzenie własnego środowiska automatyzującego projektowanie oraz testowanie aplikacji HPTC

75 Prace badawczo-rozwojowe prowadzone obecnie przez Zespół Akceleracji Obliczeń Współpraca z wydziałem Chemii Teoretycznej UJ Rozwiązywanie równania Schroedingera metodą Hartree-Focka Potrzeba zrównoleglenia obliczeń funkcji najbardziej czasochłonnych oraz najczęściej pojawiających się, takich jak: Pierwiastek kwadratowy Eksponenta Logarytm Funkcja power Argumenty funkcji oraz uzyskane wyniki są zgodne ze standardem IEEE 754 double

76 Dziękuję za uwagę