KOMPUTER RÓWNOLEG Y ASGARD PRZEZNACZONY DO OBLICZEÑ W GEOFIZYCE

Transkrypt

1 GEOLOGIA 2009 Tom 35 Zeszyt 2/ KOMPUTER RÓWNOLEG Y ASGARD PRZEZNACZONY DO OBLICZEÑ W GEOFIZYCE Parallel computer ASGARD designed for computing in geophysics Janusz MIREK Akademia Górniczo-Hutnicza, Wydzia³ Geologii, Geofizyki i Ochrony Œrodowiska, Katedra Geofizyki; al. Mickiewicza 30, Kraków; jmirek@agh.edu.pl Abstract: The new parallel computer ASGARD has been designed and built in Department of Geophysics of Faculty of Geology, Geophysics and Environmental Protection AGH University, which contains twenty dual-core processors. The computer is designed for numerical calculation and mathematical modeling. It works under Linux operating system with OpenSSI clustering system. User can find there installed software like compilators, Matlab, Octave, DORIS and other programs written for special purposes. Key words: computer cluster, parallel computing, modeling in geophysics S³owa kluczowe: klaster komputerowy, obliczenia równoleg³e, modelowania w geofizyce WPROWADZENIE Geofizyka to dziedzina, w której przetwarzane s¹ ogromne iloœci danych i analizowane s¹ skomplikowane modele matematyczne. Moc obliczeniowa pojedynczego komputera klasy PC jest niejednokrotnie zbyt ma³a, aby osi¹gn¹æ po ¹dany cel w okreœlonym czasie. Z pomoc¹ przychodz¹ w takiej sytuacji klastry komputerowe, które zwiêkszaj¹ moc obliczeniow¹ pojedynczych komputerów poprzez po³¹czenie ich zasobów w jedn¹ ca³oœæ. Po³¹czone ze sob¹ komputery tworz¹ dla u ytkownika zintegrowane œrodowisko pracy. Komputery buduj¹ce klaster nazywane s¹ wêz³ami i mog¹ byæ po³¹czone ze sob¹ np. wspóln¹ magistral¹ lub sieci¹ komputerow¹ o wysokiej wydajnoœci. Klastry ogólnie dzieli siê na wydajnoœciowe i niezawodnoœciowe. Klastry wydajnoœciowe maj¹ na celu zwiêkszenie mocy obliczeniowej i funkcjonuj¹ jako komputery równoleg³e. W takim klastrze zadania dzielone s¹ na poszczególne w¹tki, które z kolei wykonuj¹ siê na poszczególnych wêz³ach. W klastrach niezawodnoœciowych wêz³y dubluj¹ swoje funkcje. W przypadku awarii funkcje te s¹ przejmowane od uszkodzonego wêz³a przez pozosta³e wêz³y. Z uwagi na charakter obliczeniowy problemów geofizycznych w zakresie zainteresowañ s¹ klastry wydajnoœciowe.

2 536 J. Mirek KONSTRUKCJA KLASTRA KOMPUTEROWEGO Z uwagi na zadania jakie mia³y byæ wykonywane na pracuj¹cym klastrze - obliczenia matematyczne nacisk zosta³ po³o ony na cechy wydajnoœciowe systemu. Z uwagi na koszty za³o ono równie, e klaster powinien byæ oparty o oprogramowanie darmowe pracuj¹ce w systemie Linux i ogólnodostêpne czêœci komputerowe. Opieraj¹c siê na takich za³o eniach przeanalizowano szereg dostêpnych rozwi¹zañ klastrowych takich jak OpenMOSIX, PVM, MPI (np. OpenMPI, LAM), Kerrighed i OpenSSI (Lottiaux et al. 2005). Ostatecznie zdecydowano siê na rozwi¹zanie stworzone w ramach projektu OpenSSI. Projekt ten zosta³ zapocz¹tkowany w 2001 roku. OpenSSI wyewoluowa³ z projektu UnixWare NonStop Cluster bazuj¹cego na systemie Locus. Zastosowana wersja OpenSSI ma mo liwoœæ pracy z kilkoma systemami plików i zarz¹dzania dyskami takimi jak GFS, OpenGFS, Lustre, OCFS czy DRSD. System posiada tak e rozproszony mechanizm blokowania (Open- DLM) i mechanizm migracji procesów pochodz¹cy z systemu MOSIX. Klaster OpenSSI z za³o enia jest systemem typu Single System Image (SSI, jednolity obraz systemu), w którym u ytkownik widzi wszystkie wêz³y klastra jako jeden komputer pracuj¹cy pod systemem operacyjnym Linux. Przyk³adem trywialnej dla u ytkownika w³aœciwoœci systemu SSI jest wspólna lista procesów wszystkich wêz³ów uzyskiwanych komend¹ ps oraz globalny dostêp do urz¹dzeñ. Szczegó³owy opis systemu OpenSSI i jego w³aœciwoœci znajduje siê na stronie internetowej projektu Klaster komputerowy ASGARD zosta³ skonstruowany w 2007 roku na bazie czêœci komputerów klasy PC. W sk³ad klastra wchodzi dwadzieœcia p³yt g³ównych BLKDG965S- SCK firmy Intel. Ka da p³yta g³ówna wyposa ona jest w 64-bitowy procesor dwurdzeniowy E6400 (Dual Core) o czêstotliwoœci taktowania 2.13 GHz oraz 1 GB pamiêci RAM z mo liwoœci¹ rozszerzenia. Ka da p³yta zasilana jest osobnym zasilaczem impulsowym ATX z zabezpieczeniem termicznym, przeciwzwarciowym, przeciwprzepiêciowym, przeciwprzeci¹- eniowym oraz nisko-szumowym wentylatorem z automatyczn¹ regulacj¹ obrotów (Tab. 1). Jedna p³yta g³ówna stanowi wêze³ g³ówny i zosta³a wyposa ona w dysk twardy, na którym zainstalowano system operacyjny, programy u ytkowe oraz wydzielono miejsce na dane i konta u ytkowników. Pozosta³e p³yty g³ówne tworz¹ bezdyskowe wêz³y klastra, które uruchamiaj¹ siê zdalnie z wêz³a g³ównego i wspó³dziel¹ z nim zasoby dyskowe. Wêz³y po³¹czone s¹ ze sob¹ sieci¹ Ethernet o prêdkoœci 1 GB/s. Ca³oœæ zosta³a zmontowana w wolnostoj¹cej szafie serwerowej 42U 19" wyposa onej w wentylatory ch³odz¹ce z czujnikami termicznymi. Do kontroli pracy systemu s³u y konsola operatorska z ciek³okrystalicznym monitorem, klawiatur¹ i mysz¹ komputerow¹, pod³¹czona do g³ównego wêz³a klastra. Widok komputera przedstawia figura 1. ASGARD oferuje u ytkownikowi czterdzieœci bardzo szybkich procesorów, a dziêki architekturze SSI ma ³atwoœæ programowania obliczeñ wykonywanych równolegle. W najprostszym przypadku wystarczy rozbiæ zadanie na poszczególne czêœci i uruchomiæ dla ka - dej czêœci osobny proces obliczeniowy. Mechanizm migracji procesów zapewni równomierne obci¹ enie wêz³ów klastra przerzucaj¹c procesy z wêz³ów bardziej obci¹ onych na wêz³y mniej obci¹ one. W tej sytuacji mo na wykorzystaæ do obliczeñ oprogramowanie nieprzeznaczone do pracy wielow¹tkowej i równoleg³ych obliczeñ. Ca³oœæ problemu rozwi¹zuje siê na poziomie podzia³u obliczeñ na poszczególne niezale ne procesy, które mog¹ byæ dodatko-

3 Komputer równoleg³y ASGARD przeznaczony do obliczeñ w geofizyce 537 wo kontrolowane przez proces nadrzêdny, zestawiaj¹cy równie wyniki uzyskane z poszczególnych procesów. Tabela (Table) 1 Wykaz elementów sk³adowych klastra ASGARD Componenets of cluster ASGARD P³yta g³ówna BLKDG965SSCK 20 sztuk Main board BLKDG965SSCK 20 pcs Procesor E GHz 20 sztuk Processor E GHz 20 pcs Pamiêæ RAM KVR667D2N5/ GB RAM memory KVR667D2N5/ GB Zasilacz ATX 20 sztuk Power supply ATX 20 pcs Prze³¹cznik Ethernet 1GB P 3C16479-ME Baseline 2824 Switch Ethernet 1GB P 3C16479-ME Baseline 2824 Dysk HDD Maxtor 6V250F0 DiamondMax MB NCQ (RoHS) Hard disk HDD Maxtor 6V250F0 DiamondMax MB NCQ (RoHS) Konsola operatorska: Monitor LCD Samsung SyncMaster 710N, klawiatura, mysz Console: Monitor LCD Samsung SyncMaster 710N, keyboard, mouse Obudowa serwera: szafa serwerowa stoj¹ca 42U 19", wentylatory z w³¹cznikiem termicznym Server housing: 42U 19" rack cabinet, fans with thermoregulation Fig. 1. Komputer równoleg³y ASGARD w Katedrze Geofizyki WGGiOŒ AGH Fig. 1. Parallel computer ASGARD in Department of Geophysics, Faculty of Geology Geophysics and Environmental Protection, AGH University of Science and Technology

4 538 J. Mirek OPROGRAMOWANIE U ytkownik komputera równoleg³ego ASGARD ma do dyspozycji œrodowisko sytemu Linux z zainstalowanymi kompilatorami c/c++, fortran, Pascal, perl, itp., wraz z bibliotekami przeznaczonymi do tworzenia aplikacji równoleg³ych. Zainstalowano tak e komercyjny pakiet Matlab oraz jego odpowiednik na licencji GNU, pakiet Octave. Oprócz oprogramowania o zastosowaniu ogólnym zainstalowano na komputerze autorskie oprogramowanie do estymacji wielowymiarowej funkcji gêstoœci prawdopodobieñstwa metodami nieparametrycznymi przy u yciu funkcji j¹drowych (Silverman 1986, Mirek & Mirek 2007) i pakiet programów do j¹drowej aproksymacji nieparametrycznej (Gasser & Müller 1984, Mirek & Mirek 2008d). Stworzony zosta³ te modu³ do generowania nowych, wielowymiarowych zbiorów danych poprzez powtórne losowanie oparte o nieparametryczn¹ funkcjê gêstoœci prawdopodobieñstwa (Mirek & Mirek 2008a). Wykorzystywany jest on przy przygotowywaniu danych do uczenia sieci neuronowych i wspomaga równomierne uczenie sieci wca³ej przestrzeni zdarzeñ (Mirek & Mirek 2008b). Dla celów sejsmologicznych zainstalowany zosta³ autorski system SPS do interaktywnego i potokowego przetwarzania danych sejsmometrycznych wraz z narzêdziami do przetwarzania formatów danych i wizualizacji (Mirek 2005). Zainstalowano tak e oprogramowanie do przetwarzania danych radarowej interferometrii satelitarnej. Podstawowym narzêdziem jest pakiet DORIS z interfejsem u ytkownika BORIS. Oprogramowanie jest przeznaczone do przetwarzania pojedynczych zdjêæ satelitarnych pod k¹tem uzyskania interferogramów i w efekcie zmian pionowych elewacji terenu (Hanssen 2004, Kampes 2006, Mirek & Mirek 2008c). PODSUMOWANIE W Katedrze Geofizyki na Wydziale Geologii, Geofizyki i Ochrony Œrodowiska Akademii Górniczo-Hutniczej w Krakowie zaprojektowano i zbudowano komputer równoleg³y ASGARD przeznaczony do obliczeñ numerycznych i modelowañ matematycznych. Komputer pracuje pod kontrol¹ systemu Linux z modu³em OpenSSI. Na komputerze zainstalowano kompilatory, oprogramowanie naukowe takie jak Matlab i Octave, system SPS do przetwarzania danych sejsmometrycznych, DORIS+BORIS do przetwarzania danych interferometrii satelitarnej, oraz pakiety oprogramowania do nieparametrycznej estymacji funkcji gêstoœci prawdopodobieñstwa. Praca zosta³a wykonana w ramach badañ statutowych Katedry Geofizyki Wydzia³u Geologii, Geofizyki i Ochrony Œrodowiska Akademii Górniczo-Hutniczej, nr w latach Praca by³a prezentowana na VII Konferencji Naukowo-Technicznej pt. Geofizyka w geologii, górnictwie i ochronie œrodowiska organizowanej z okazji jubileuszu 90-lecia AGH na WGGiOŒ. LITERATURA Gasser T. & Müller H.G., Kernel Estimation of Regression Functions. W: Gasser T. & Rosenblatt M. (red.), Smoothing Techniques for Curve Estimation, Berlin, Springer- -Verlag,

5 Komputer równoleg³y ASGARD przeznaczony do obliczeñ w geofizyce 539 Hanssen R.F., Satellite Radar Interferometry for Deformation Monitoring: a Priori Assessment of Feasibility and Accuracy, International Journal of Applied Earth Observation and Geoinformation, 6, Kampes B.M., Radar Interferometry: Persistent Scatterer Technique. Springer, Lottiaux R., Gallard P., Vallee G., Morin C.& Boissinot B., OpenMosix, OpenSSI and Kerrighed: a comparative study; Cluster Computing and the Grid, CCGrid IEEE International Symposium on Cluster Computing and the Grid, 2, 9 12 May 2005, Mirek J., SPS Seismic Signal Processing System. Mining and Environmental Geophysics. Publications of the Institute of Geophysics Polish Academy of Sciences., Series: Miscellanea, M-29, (395), Mirek J. & Mirek K., Nieparametryczna estymacja funkcji gêstoœci prawdopodobieñstwa po³o enia Ÿród³a sejsmicznego. Warsztaty Górnicze 2007 Zagro enia naturalne w górnictwie, Œlesin, Mirek J. & Mirek K., 2008a. Zastosowanie sieci neuronowych do analizy poziomu drgañ gruntu na terenie LGOM. Komputerowe Wspomaganie Badañ Naukowych, Prace Wroc- ³awskiego Towarzystwa Naukowego, 15, B, 214. Mirek J. & Mirek K., 2008b. Peak Ground Acceleration Attenuation Relationship Based on RBF Neural Network. The 9 th Czech-Polish Workshop on Recent Geodynamics of the Sudeten and Adjacent Areas. Nachod. Mirek K. & Mirek J., 2008c. Wstêpna analiza danych interferometrii satelitarnej z rejonu Krakowa. Komputerowe Wspomaganie Badañ Naukowych. Prace Wroc³awskiego Towarzystwa Naukowego, 15, B, 214. Mirek K. & Mirek J., 2008d. Zastosowanie j¹drowej aproksymacji w procesie interpretacji danych PSInSAR z pó³nocnej czêœci GZW. Komputerowe Wspomaganie Badañ Naukowych, Prace Wroc³awskiego Towarzystwa Naukowego, 15, B, 214. Silverman B.W Density Estimation for Statistic and Data Analysis. Chapman and Hall, London,