Wykorzystanie platformy GPGPU do prowadzenia obliczeń metodami dynamiki molekularnej 30 maj 2011, Kraków 1 z 22
POWIEW Program Obliczeń Wielkich Wyzwań Nauki i Techniki Celem jest udostepnienie w polskich centrach komputerowych nowych architektur obliczeniowych, które pozwola na prowadzenie badań wymagajacych przetwarzania obliczeniowego o dotychczas niedostepnej skali http://www.wielkiewyzwania.pl 2 z 22
POWIEW: co? Realizacja przez rozwój infrastruktury dla obliczeń silnie równoleg lych optymalizacje istniejacych i tworzenie nowych dedykowanych modeli obliczeniowych 3 z 22
POWIEW: kto? Instytucje Interdyscyplinarne Centrum Modelowania Matematycznego i Komputerowego UW (ICM) Akademickie Centrum Komputerowe CYFRONET AGH Poznańskie Centrum Superkomputerowo-Sieciowe IChB PAN (PCSS) 4 z 22
Nowa infrastruktura w Cyfronecie wirtualne SMP 3072 rdzenie 6 TB pamieci RAM 2 serwery FPGA klaster GPGPU 24 w ez ly każdy w eze l wyposażony w 12 rdzeni i 2 karty NVIDIA Tesla 5 z 22
Karty graficzne - po co? Napedzana zapotrzebowaniem rynkowym ewolucja procesorów graficznych doprowadzi la do powstania produktów, które oferuja bardzo duża moc obliczeniowa bardzo duża przepustowość pamieci bardzo korzystna relacje wydajności do zużycia energii Podstawowym obszarem zastosowań jest obróbka grafiki, ale obliczenia naukowe okaza ly sie wystarczajac a interesujac a dla producentów nisza 6 z 22
Architektura GPGPU (Wykresy z materia lów NVIDIA) 7 z 22
Potencjalna wydajność (Wykresy z materia lów NVIDIA) 8 z 22
Top 500 1 National Supercomputing Xeon / NVidia GPU 4701 TFlops Center in Tianjin 2 National Supercomputing Xeon / NVidia GPU 2984 TFlops Centre in Shenzhen 3 DOE/SC/Oak Ridge Opteron 2331 TFlops National Laboratory............ 84 ACK Cyfronet Xeon 104.70 TFlops............ Nowy klaster GPGPU ma teoretyczn a moc obliczeniow a rz edu 50 TFlops 9 z 22
Specyfika programowania Kluczowe aspekty ekspresja zrównoleglalnych cech kodu zmapowanie... zapewnienie dużej g estości operacji arytmetycznych minimalizacja wymiany danych mi edzy CPU i GPU Modele zrównoleglania SIMD MIMD Jezyki CUDA C OpenCL 10 z 22
Gotowe oprogramowanie Kwantowochemiczne TeraChem GAMESS Klasyczna dynamika molekularna NAMD Gromacs 11 z 22
NAMD standardowy (i doskonale wam znany) pakiet do obliczeń klasycznej dynamiki molekularnej akcelerowane sa obliczenia oddzia lywań niewiaż acych efektywnie wykorzystuje hybrydowa architekture CPU/GPGPU http://www.ks.uiuc.edu/research/namd/ 12 z 22
Terachem Jedyny program kwantowochemiczny skonstruowany od podstaw na GPU Implementacja metod Hartree-Focka i Kohna-Shama (w l acznie z poprawkami dyspersyjnymi) obliczenia energii optymalizacja geometrii lokalizacja stanów przejściowych dynamika Borna-Oppenheimera obliczenia QM/MM dla cz eści MM z lożonej z czasteczek wody Kilkunasto-kilkudziesieciokrotnie szybszy od standardowych pakietów do obliczeń kwantowochemicznych http://www.petachem.com/products.html 13 z 22
Terachem: input # b a s i s s e t b a s i s 6 31g # c o o r d i n a t e s f i l e ( xyz or pdb ) c o o r d i n a t e s m o l e c u l e. xyz # m o l e c u l e charge c harge 0 # SCF method ( r h f / b l y p / b 3 l y p / e t c... ) : B3LYP method b 3 l y p # Grimme s d i s p e r s i o n c o r r e c t i o n d i s p e r s i o n y e s # j o b type ( e n e r g y /md/ minimize / t s ) : o p t i m i z a t i o n run minimize end 14 z 22
Terachem: geometria uk ladu 2 h2 m o l e c u l e H 0. 0 0. 0 0. 0 H 0. 7 0. 0 0. 0 15 z 22
Terachem: dynamika molekularna Zespo ly statystyczne NVE NVT kontrola temperatury skalowanie predkości dynamika Langevina możliwość na lożenia sferycznych warunków brzegowych możliwość prowadzenia interaktywnych obliczeń 16 z 22
Terachem: dynamika b a s i s 6 31g c o o r d i n a t e s m o l e c u l e. xyz c harge 0 method b l y p run md # number o f MD s t e p s, one s t e p : 1 f s ( d e f a u l t ) n s t e p 1000 # dump o r b i t a l s e v e r y 1000 th MD s t e p o r b i t a l s w r t f r q 1000 # i n i t i a l t e m p e r a t u r e (K) t0 300.0 end 17 z 22
Terachem: wizualizacja wyników VMD Molden coors.xyz vel.log log.xls energia elektronowa energia kinetyczna j ader temperatura energia ca lkowita energia HOMO energia LUMO 18 z 22
Dost ep do klastra GPGPU Uzyskanie dostepu wype lnienie i z lożenie formularza http://www.cyfronet.pl/ uslugi_obliczeniowe/formularze/gpu.pdf w przypadku studentów konieczna zgoda opiekuna naukowego dostep do zasobów obliczeniowych maszyna dostepowa: ui.cyfronet.krakow.pl system kolejkowy: kolejka gpgpu 19 z 22
System kolejkowy zg loszenie zadania do kolejki: qsub skrypt sprawdzenie stanu kolejki: wszystkie zadania: qstat zadania użytkownika: qstat -u <user> 20 z 22
Szablony skryptów Przyk lad #!/ b i n / sh #PBS l nodes =1:ppn=2 #PBS N sample terachem #PBS q gpgpu cd $PBS O WORKDIR module add gpu/ terachem $TERACHEMRUN sample. i n p $PBS NUM PPN > sample. l o g Pozosta le skrypty https://kdm.cyfronet.pl/zeus/gpgpu/szablonyskrypt%f3w 21 z 22
Gdzie szukać pomocy Dokumentacja: https://kdm.cyfronet.pl/zeus/gpgpu/webhome Helpdesk: helpdesk@plgrid.pl Administratorzy: zeus@cyfronet.pl Prowadzacy szkolenie: Grzegorz Mazur <mazur@chemia.uj.edu.pl> Marcin Makowski <makowskm@chemia.uj.edu.pl> 22 z 22