Podstawy pracy w ICM

Transkrypt

1 Podstawy pracy w ICM Zespół KDM Interdyscyplinarne Centrum Modelowania Matematycznego i Komputerowego Uniwerystet Warszawski Szkolenie KDM (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 1 / 50

2 Plan prezentacji 1 Lokalizacja 2 Schemat sieci ICM 3 Serwisy ICM 4 Kontakt 5 Komputery 6 Systemy kolejkowe (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 2 / 50

4 Lokalizacja ICM mieści się obecnie w trzech siedzibach: Pawińskiego Geologia Krakowskie Przedmieście (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 4 / 50

5 Pawińskiego stara siedziba ICM miejsce pracy większości pracowników technicznych pełny adres: ul. Pawińskiego 5A blok D, Warszawa (Kontakt: Podstawy pracy w ICM Szkolenie KDM 5 / 50

6 Geologia nowa siedziba ICM miejsce pracy większości pracowników naukowych pomieszczenia dydaktyczne i laboratorium komputerowe Muzykologia pełny adres: al. Żwirki i Wigury 93, Warszawa (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 6 / 50

7 Krakowskie Przedmieście miejsce pracy działu sieciowego pełny adres: ul. Krakowskie Przedmieście 26/28, Warszawa (Kontakt: Podstawy pracy w ICM Szkolenie KDM 7 / 50

9 Najważniejsze komputery gw.icm.edu.pl (inna nazwa: atol.icm.edu.pl) jedyny dostęp do sieci ICM z zewnatrz delta, burza, rekin ogólnodostępne serwery tornado, halo, tajfun, latimeria serwery obliczeniowe archive robot taśmowy, archiwizacja neofoka serwer Windows (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 9 / 50

10 Praca z wewnatrz ograniczony dostęp do sieci zewnętrznej: tylko SSH, FTP, HTTP (przez proxy), POP3S, IMAPS wspólne /home na wszystkich serwerach (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 10 / 50

11 Katalogi domowe ograniczenie na ilość przechowywanych danych quota podział na /home/staff /home/users /home/guests pliki tymczasowe, rezultaty obliczeń w /tmp* (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 11 / 50

12 Praca z notebookiem w ICM w wyznaczonych miejscach dostępne sa kable sieciowe oznaczone jako EXT sala seminaryjna i kuchnia na Pawińskiego sala konferencyjna na niższym piętrze na Geologii sieć bezprzewodowa dostępna na Pawińskiego i na Geologii sieć szyfrowana, klucze ustalane przez dział LAN uwaga: sieć bezprzewodowa mimo szyfrowania jest mniej bezpieczna niż przewodowa notebooki pracuja w tzw. sieci EXT (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 12 / 50

13 Sieć EXT nie można montować /home ani dysków po SMB nie można korzystać z drukarek za to: dostęp do sieci zewnętrznej nie jest ograniczany można łaczyć się z siecia zewnętrzna po wszystkich portach (działa np. GG, Skype) nie trzeba korzystać z proxy przy połaczeniach z HTTP (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 13 / 50

14 Praca z zewnatrz dostęp wyłacznie przez SSH poczta może być czytana przez: interfejs WWW: bezpośrednio przez program pocztowy (usługa IMAP, POP3) (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 14 / 50

16 Prognoza pogody Serwis meteorologiczny, działa od 1997 roku prognoza pogody dla obszaru Europy Środkowej aktualizowana 4 razy dziennie na 60 godzin (2,5 doby) do przodu model atmosferyczny UK Met Office liczony na tajfun, wkrótce na tornado (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 16 / 50

17 Telewizja naukowa internetowa telewizja naukowa założona w ICM w 2002 roku w archiwum dostępne sa setki interesujacych audycji wyprodukowanych przez zespół ATVN (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 17 / 50

18 Biblioteka wirtualna biblioteka artykułów z czasopism naukowych pełne teksty: Elsevier, Springer, Kluwer, ACS, Ovid, EMIS abstrakty, cytowania dostępna wyłacznie dla zarejestrowanych użytkowników (licencje!) możliwość korzystania z sieci wewnętrznej ICM (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 18 / 50

19 Serwer FTP setki GB darmowego oprogramowania bardzo szybki dostęp z polskiego Internetu (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 19 / 50

20 Cache stron WWW pośredniczy w ściaganiu stron WWW przyspiesza ściaganie stron z popularnych serwisów każda współczesna przegladarka internetowa ma opcję korzystania z tego rodzaju pośrednika (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 20 / 50

22 Kontakt Obsługa formalna projektów obliczeniowych Wsparcie użytkowników Obsługa techniczna (Kontakt: Podstawy pracy w ICM Szkolenie KDM 22 / 50

23 Uniwersalny adres wszelkie zapytania (Kontakt: Podstawy pracy w ICM Szkolenie KDM 23 / 50

24 Obsługa formalna zapytania, informacje ogólne nowe projekty, obsługa bieżacych zmiana haseł, udostępnianie serwerów (Kontakt: Podstawy pracy w ICM Szkolenie KDM 24 / 50

25 Wsparcie użytkowników portowanie, optymalizacja oprogramowanie naukowe (Kontakt: Podstawy pracy w ICM Szkolenie KDM 25 / 50

26 Obsługa techniczna obsługa techniczna serwerów archiwizacja danych na robocie taśmowym funkcjonowanie sieci lokalnej, łaczność z ICM, poczta (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 26 / 50

28 Trochę klasyfikacji Podział ze względu na dostęp do pamięci: komputery z pamięcia rozproszona komputery z pamięcia współdzielona rozwiazania hybrydowe Podział ze względu na architekturę CPU: komputery skalarne komputery wektorowe Inne możliwe podziały (32/64 bity,... ) (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 28 / 50

29 Czym dysponuje ICM? halo = klaster AMD Opteron tornado = Cray X1e tajfun = Cray SV1ex latimeria = SGI Origin 2000 (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 29 / 50

30 Szczegółowo o tornado Cray X1e 128 procesorów wektororowych SSP Łacznie 128 GB pamięci operacyjnej 1.3 TB przestrzeni dyskowej System operacyjny UNICOS/mp 3.0 Teoretyczna wydajność maszyny 576 GFlops (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 30 / 50

31 Architektura tornado Najprostsza jednostka - wektorowy procesor SSP (Singlestreaming Processor) 1 procesor MSP (Multistreaming Processor) zawiera 4 SSP Całość pogrupowana jest w węzły po 4 procesory MSP Wewnatrz węzła architektura z pamięcia dzielona, 16 GB pamięci operacyjnej na węzeł tornado = 128 SSP = 32 MSP = 8 węzłów (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 31 / 50

32 Tornado praktycznie Aplikacje sa często dostępne w wersji MSP i SSP. Której lepiej użyć? Odpowiedź prawidłowa: To zależy (od aplikacji i zadania!!!) - najlepiej zrobić test! Reguły kciuka (często nieprawidłowe): Jeżeli chcemy wykorzystać mała liczbę procesorów (c.a. 8 SSP=2 MSP), wtedy SSP. Wersja MSP może być korzystna w zastosowaniach z większa liczba procesorów (np. 16 SSP=4 MSP). (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 32 / 50

33 Szczegółowo o halo Dwa rodzaje węzłów: 98 IBM eserver 325 IBM eserver 325 = 2 procesory AMD Opteron 246 (2 GHz), 2 GB pamięci, dysk lokalny 120 GB 12 Sun v40z Sun v40z = 4 procesory AMD Opteron 875 (Dual Core), 16 GB pamięci, dysk lokalny 112 GB Komunikacja 2 Gigabit Ethernet na węzeł System operacyjny Gentoo Linux (jadro 2.6) Teoretyczna wydajność 1.2 TFlops (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 33 / 50

34 Szczegółowo o tajfunie Cray SV1ex 32 procesory wektorowe 64 GB pamięci operacyjnej Pamięć dyskowa 500 GB System operacyjny UNICOS Teoretyczna wydajność 64 GFlops (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 34 / 50

35 Szczegółowo o latimerii SGI Origin procesorów Pamięć dyskowa 160 GB Pamięć operacyja 8 GB System operacyjny IRIX 6.5 Teoretyczna wydajność 16 GFlops Wykorzystywany głównie dla aplikacji Accelrys/MSI (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 35 / 50

36 Sposób pracy - ogólnie Na wszystkie maszyny KDM logowanie tylko z wnętrza ICM (np. z komputerów delta, rekin itp.). Po założeniu konta w ICM, należy skontaktować się z hpc-admins@icm.edu.pl w celu otrzymania konta na maszynach obliczeniowych. Hasło identyczne jak przy logowaniu na gw.icm.edu.pl (LDAP). Przy wykonywaniu jakichkolwiek obliczeń należy korzystać z systemu kolejkowego. (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 36 / 50

37 Sposób pracy - dyski tmp Przy wykonywaniu obliczeń prosimy w miarę możliwości korzystać z dysków lokalnych. Wyjatek - zadania wieloprocesorowe na halo, przeważnie trzeba korzystać tam z katalogu domowego. Dyski lokalne sa widoczne jako /tmp1, /tmp2, /tmp3 itp. Katalogi te sa automatycznie czyszczone z plików starszych niż dwa tygodnie. Nie należy tam przechowywać cennych danych. (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 37 / 50

38 FAQ - Jakiej maszyny użyć? Przed przystapieniem do obliczeń idealny użytkownik odpowiada sobie na kilka ważnych pytań: Co chcę policzyć? Jakie oprogramowanie mogę do tego wykorzystać? Na jakich maszynach jest ono zainstalowane? Jakich zasobów będe potrzebował (RAM, dysk, liczba procesorów)? (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 38 / 50

39 FAQ - Ilu procesorów użyć? Nie ma dobrej ogólnej odpowiedzi na to pytanie. To jest zależne od aplikacji i zadania!!! Więcej procesorów nie zawsze znaczy szybciej!!! Testy,testy, testy... Nie należy zapominać, że oczekiwanie zadania w kolejce również zajmuje czas. (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 39 / 50

40 FAQ - Przykładowy test # CPU MSP wersja SSP wersja MSP idealne skalowanie 2 1 Czas [jednostki umowne] # CPU SSP (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 40 / 50

42 Systemy kolejkowe w ICM System kolejkowy PBS w ICM znajdziemy na: halo tornado latimerii System kolejkowy NQE w ICM znajdziemy na: tajfunie Wykonywanie obliczeń na tych maszynach dozwolone jest tylko i wyłacznie przy użyciu systemów kolejkowych. (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 42 / 50

43 Idealny użytkownik Idealny scenariusz pracy: Przygotowanie programu. Identyfikacja zasobów, których potrzebuje program. Wstawienie zadania do systemu kolejkowego, po właściwym określeniu zasobów. Dzięki kontroli nad systemem kolejkowym mamy (praktycznie) pełna kontrolę nad przepływem pracy na danej maszynie. (Kontakt: Podstawy pracy w ICM Szkolenie KDM 43 / 50

44 O PBS Dostępny na wszystkich systemach unix-owych Klastry Linux-owe Dwie gałęzie: OpenPBS oraz PBSpro (Kontakt: Podstawy pracy w ICM Szkolenie KDM 44 / 50

45 Zasoby W obrębie jednego CPU, PBS wymaga określenia co najmniej dwóch zasobów: czasu CPU ilości pamięci Dla równoległych zadań wieloprocesorowych, PBS musi również wiedzieć ile node ów/cpu zajmie zadanie Inne rzeczy do rozważenia: Jak nazwiemy zadanie? Gdzie skierować standardowe wyjście i bład? Czy system powinien zawiadomić nas mailem po zakończeniu zadania? (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 45 / 50

46 Operacje na zadaniu Wstawienie zadania do kolejki: z użyciem polecenia qsub: sheed@halo:# qsub submit.pbs Opcje moga być również podane z linii komend. Monitorowanie zadania: z użyciem polecenia qstat qstat qstat -a qstat -f qstat -Q Modyfikacja i zabijanie zadania: qalter w celu zmiany przydzielonych zasobów oraz qdel w celu zabicia zadania identyfikowanego poprzez job_id (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 46 / 50

47 Przykładowy skrypt dla klastra halo # Sekcja z deklaracją zasobów #PBS -N zadanie #PBS -l nodes=8:ppn=2 #PBS -l walltime=24:00:00 #PBS -l file=5gb #PBS -m e # Przygotowanie pracy cd $PBS_O_WORKDIR/ # Uruchomienie programu mpiexec -transform-hostname=s/ˆ n/a/./cpi # Tu ew. kopiowanie ważnych wyników do katalogu domowego (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 47 / 50

48 Standardowe wyjście i bład Domyślnie standardowe wyjście jest kierowane do pliku NAZWA_ZADANIA.oJOB_ID. Domyślnym plikiem do którego sa kierowane sa komunikaty o błędach jest NAZWA_ZADANIA.eJOB_ID. Można to zmienić opcjami -o PLIK_WYJŚCIOWY i -e PLIK_BŁĘDÓW. (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 48 / 50

49 Więcej informacji Szablony skryptów w katalogach /opt/examples/pbs na halo i tornado Generator skryptów na stronie WWW ICMu Maciek Cytowski, Porady: systemy kolejkowe w ICM, Biuletyn ICM nr 4 Strony manuala: man qsub, man qstat, man qdel man pbs_resources man pbs_resources_unicosmp (tornado) Szkolenie Skryptologia i systemy kolejkowe (Kontakt: pomoc@icm.edu.pl) Podstawy pracy w ICM Szkolenie KDM 49 / 50

50 Dziękujemy za uwagę (Kontakt: Podstawy pracy w ICM Szkolenie KDM 50 / 50