0 Bezpieczeństwo systemów komputerowych - wykład XI i XII Rozproszone systemy plików -,, Macierze 1 2, 3, 4 5 6 0+1 1+0 Tworzenie Instytut Informatyki Teoretycznej i Stosowanej Politechnika Częstochowska Rok akademicki 2018/2019 1/65
Plan wykładu 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 2/65
Zaliczenie przedmiotu Bezpieczeństwo systemów komputerowych 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie Terminy: 1 termin 1.04.2019 r. godz. 9.30, sala A4, 2 termin 8.04.2019 r. godz. 9.30, sala A3 lub A4, 3 termin 15.04.2019 r. godz. 9.30, sala A3 lub A4. Struktura testu (dla pierwszego terminu): około 40 pytań, jednokrotny wybór (+2, -1), 1 zadanie praktyczne - uzupełnienie tablicy partycji. Dostępne narzędzia: długopis, ołówek, gumka do ścierania, kalkulator. 3/65
0 1 Rozproszone systemy plików 2, 3, 4 5 6 0+1 1+0 Tworzenie 4/65
System plików 0 System plików Metoda przechowywania plików, zarządzania plikami i informacjami o nich, w taki sposób, aby dostęp do plików i danych w nich zgromadzonych był łatwy dla użytkownika systemu. 1 2, 3, 4 5 6 0+1 1+0 Tworzenie Dyskowe systemy plików: Linux: ext, ext2, ext3, ext4, ReiserFS, JFS, XFS, DOS: FAT12, FAT16, Windows: FAT32, exfat, NTFS. 5/65
(ang. Distributed File System) I 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie Rozproszona implementacja klasycznego systemu plików umożliwiająca dostęp do współdzielonego zestawu plików i obszaru składowania wielu użytkownikom, którzy pracują na różnych jednostkach komputerowych. zarządza zbiorem rozproszonych urządzeń do składowania danych, przestrzeń składowania może być złożona z wielu rozproszonych lokalnych dysków, wprowadza pewną abstrakcję zarządzania danymi, pozwala użytkownikom na wygodne wykonywanie operacji plikowych na wielu rozproszonych urządzeniach. 6/65
II Cechy: 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie zdalne współdzielenie informacji, możliwie przeźroczysty dla użytkownika, umożliwienie użytkownikom przemieszczania się między różnymi miejscami w sieci oraz tymczasowe odłączanie się od niej, dostępność, przechowywanie i organizacje danych niemożliwych do przechowania na pojedynczych stanowiskach. 7/65
Usługi RSP 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie storage service: logiczna warstwa zarządzania danymi, alokacją i zarządzanie przestrzenią dyskową, true file service: tworzenie, kasowanie, czytanie i pisania do plików, różne mechanizmy, name service: odwzorowanie nazw plików na specjalne identyfikatory, usługa katalogowa. 8/65
Własności RSP I przezroczystość: 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie przezroczystość struktury, przezroczystość dostępu, przezroczystość nazewnictwa, przezroczystość zwielokrotniania, mobilność, wydajność, prostota obsługi. 9/65
Własności RSP II 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie skalowalność, wysoka dostępność, niezawodność, spójność danych, bezpieczeństwo, heterogeniczność. 10/65
Modele plików i modele dostępu do plików 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie Modele plików: pliki o nieznanej strukturze zawartości, pliki o znanej strukturze zawartości, pliki modyfikowalne, pliki niemodyfikowalne. Modele dostępu do plików: dostęp zdalny, dostęp przy użyciu pamięci podręcznej. 11/65
Jednostka transferu danych 0 1 2, 3, 4 5 6 0+1 1+0 przesyłanie całych plików, przesyłanie bloków plików, przesyłanie bajtów, przesyłanie rekordów. Tworzenie 12/65
Współdzielenie plików 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie Semantyka systemu Unix: konieczność uporządkowania operacji w czasie. Semantyka sesji: wyniki operacji pomiędzy otwarciem, a zamknięciem pliku są widoczne tylko dla użytkownika pliku. Semantyka współdzielonych plików niemodyfikowalnych: transakcja = nowa pełna wersja pliku. Semantyka transakcji: zachowanie struktury transakcji (początek, koniec). 13/65
Inne aspekty RSP 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie pamięć podręczna, lokalizacja pamięci podręcznej, propagowanie modyfikacji, opóźnione przepisywanie, transakcje. 14/65
System plików (General Parallel File System) I 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie od 2015 IBM zmienił nazwę na IBM Spectrum Scale, wysokowydajny klastrowy opracowany przez IBM, może być wdrażany w trybach równoległych na współdzielonym i niewspółdzielonym dysku, wykorzystywany przez wiele największych na świecie firm komercyjnych, zapewnia równoczesny szybki dostęp do plików dla aplikacji wykonywanych na wielu węzłach klastrów, może być używany z klastrami AIX 5L, klastrami Linux, Microsoft Windows Server lub heterogenicznym klastrem węzłów AIX, Linux i Windows. 15/65
System plików II 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie zapewnia narzędzia do zarządzania klastrem i administrowania nim, umożliwia współdzielony dostęp do systemów plików ze zdalnych klastrów, dostępny w systemie AIX IBM od 1998 roku, w systemie Linux od 2001 roku i na systemie Windows Server od 2008 roku, oferowany jako część systemu IBM System Cluster 1350, funkcje: aktywnego zarządzania plikami, szyfrowania. 16/65
Architektura I 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie zapewnia wysoką wydajność, umożliwiając dostęp do danych na wielu komputerach jednocześnie, wydajność I/O - usuwanie bloków danych z poszczególnych plików na wielu dyskach oraz równoległe odczytywanie i zapisywanie tych bloków, wysoką dostępność, obsługę heterogenicznych klastrów, odzyskiwanie po awarii, bezpieczeństwo, DMAPI, HSM i ILM, plik zapisywany do systemu plików jest dzielony na bloki o skonfigurowanym rozmiarze i wielkości poniżej 1 MB, bloki - rozmieszczone na wielu węzłach systemu plików. 17/65
Architektura II 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie podział na bloki duża szybkość odczytu i zapisu dla pojedynczego pliku, wada jest podatny na awarie dysków, zapobieganie utraty danych węzły systemu plików mają kontrolery, wiele kopii każdego bloku jest zapisywanych na dyskach fizycznych w poszczególnych węzłach, możliwość przechowywania dwóch kopii każdego bloku na różnych węzłach systemu plików. 18/65
Inne funkcje 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie rozproszone metadane, w tym drzewo katalogów, wydajne indeksowanie pozycji katalogu dla bardzo dużych katalogów, blokowanie rozproszone, Partition Aware, konserwacja systemu plików online. 19/65
I 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie klastrowy, HP, 2001 r., używany na platformach Linux do obliczeń klastrowych na dużą skalę, oprogramowanie dostępne na licencji GNU General Public Licence (tylko w wersji 2), używany w superkomputerach, wiele klastrów komputerowych z dziesiątkami tysięcy węzłów klienta, dziesiątkami petabajtów (PB) pamięci na setkach serwerów i przepustowością powyżej terabajta na sekundę (TB/s), zastosowanie: firmy z dużymi centrami danych. 20/65
II 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie przechowywane dane traktowane są jak obiekty, metadane przechowywane są na serwerach metadanych, podstawowe elementy systemu plików : serwer metadanych MDS - przechowywanie i zarządzanie i-węzłami, magazyn obiektów - przechowywanie obiektów, klient systemu plików - odczyt i modyfikacje metadanych oraz odczyt i zapis danych z obiektu. 21/65
Architektura I 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 22/65
Architektura II 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 23/65
Przykład implementacji I 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie Wrocławskie Centrum Sieciowo-Superkomputerowe (WCSS): centrum świadczące usługi informatyczne dla regionu dolnośląskiego, 1995 r., Politechnika Wrocławska, zadania: eksploatacja i rozbudowa sieci rozległej Wrocławskiej Akademickiej Sieci Komputerowej (WASK), eksploatacja i rozbudowa komputerów dużej mocy, rozwój sieciowych usług informacyjnych. 24/65
Przykład implementacji II 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 25/65
Przykład implementacji III 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie Współdzielony składa się z: dwie macierze dyskowe DDN SFA14KX-40, 2 serwery MDS i 8 serwerów OSS, przesyłanie danych przez sieć Infiniband - podłączenie macierzy, serwerów MDS i OSS w pełni redundantne (bez pojedynczych punktów awarii), parametry wydajnościowe (blok 1MB): zapis liniowy z dowolnego węzła klastra Bem: 5 GB/s łączny odczyt liniowy: 75 GB/s, łączny zapis liniowy: 75 GB/s. 26/65
System plików I 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie skalowalne, równoległy dla klastrów, zawierający zintegrowany menedżer woluminów, funkcje wysokiej dostępności: wieloskładnikowe automatyczne przełączanie awaryjne, scentralizowany interfejs zarządzania, niezależny od sprzętu, sieci i protokołu, może być wdrażany w środowiskach skalujących się do tysięcy węzłów, oparty na opatentowanej architekturze Segmented File System, umożliwia przedsiębiorstwom integrację systemów I/O i pamięci masowej w jednym środowisku klastrowym, które może być współużytkowane przez wiele aplikacji i zarządzane z pojedynczej centralnej stacji roboczej Fusion Manager. 27/65
System plików II 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie zaprojektowany do pracy z wysokowydajnymi aplikacjami komputerowymi, które wymagają dużej przepustowości I/O i skalowalności, obejmują one: transmisję internetową, strumieniowanie multimediów, eksplorację danych, wyszukiwanie w Internecie, produkcję, modelowanie finansowe, modelowanie nauk przyrodniczych, przetwarzanie danych sejsmicznych i inne, cechy: skalowalna konfiguracja, pojemność, wszystkie katalogi i pliki w jednym obszarze nazw. 28/65
System plików III 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie Cechy: działa w środowiskach SAN (Storage Area Network) i DAS (Direct Attached Storage), oprogramowanie o wysokiej dostępności chroni serwery i Fusion Manager. klonowanie pliku, przestrajalny dla I/O dużych lub małych bloków. elastyczny, niezależny od dostawcy. 29/65
Architektura 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 30/65
Komponenty 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 31/65
0 1 Macierze 2, 3, 4 5 6 0+1 1+0 Tworzenie 32/65
0 1 2, 3, 4 5 6 (ang. Redundant Array of Independent Disks) Sposób połączenia dwóch lub więcej dysków twardych w jedną macierz. Macierz zapewnia dodatkową funkcjonalność w porównaniu z oddzielnie podłączonymi pojedynczymi dyskami twardymi: powszechnie stosowane w rozwiązaniach serwerowych, zwiększenie niezawodności odporność na awarie, zwiększenie prędkości transmisji w porównaniu z pojedynczym dyskiem. 0+1 1+0 Tworzenie Sposoby realizacji macierzy : sprzętowy, programowy, bazująca na sterownikach/firmware. 33/65
sprzętowy 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie sprzętowy potrzebny jest specjalny dedykowany kontroler, który zajmuje się przeliczaniem sum kontrolnych, większa wydajność - brak dodatkowego wykorzystania zasobów procesora, start systemu możliwy z macierzy dyskowej, kompatybilność z mniej popularnymi systemami operacyjnymi. 34/65
programowy 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie programowy brak potrzeby zakupu dodatkowych elementów, mniejsza wydajność, partycja startowa powinna znajdować się poza macierzą, obsługiwany przez większość systemów operacyjnych (niekompatybilne ze sobą), możliwość łączenia różnych interfejsów takich jak ATA, SCSI, SATA, USB w obrębie jednej macierzy. 35/65
Fake 0 1 2, 3, 4 5 6 0+1 rozwiązanie pośrednie pomiędzy em sprzętowym a programowym, niektóre płyty główne umożliwiają włączenie w BIOS ie opcji, 1+0 Tworzenie 36/65
a kopia zapasowa 0 1 2, 3, 4 kopia zapasowa 5 6 0+1 1+0 Tworzenie 37/65
Rodzaje macierzy 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 0 (striping), 1 (mirroring), 2, 3, 4, 5, 6, 1+0, 0+1. 38/65
JBOD 0 ang. Just a Bunch Of Drives - zwykłe połączenie kilku dysków, nie zapewnia własności ów, mapowanie dysków fizycznych (i logicznych partycji) do jednego logicznego woluminu. 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 39/65
0 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie Zalety: - zwiększona prędkość zapisu/odczytu - wykorzystanie całej pojemności dysku do zapisu Wady: - brak odporności na awarie dysku - łatwość utraty danych Zastosowania: - zwiększenie szybkości operacji dyskowych - obróbka dużych plików multimedialnych 40/65
1 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie Zalety: - odporność na awarię pojedynczego dysku Wady: - macierz ma pojemność najmniejszego dysku - prędkość operacji zapisu/odczytu jest na poziomie najwolniejszego dysku Zastosowania: - miejsce pod instalację systemu operacyjnego serwera - kopie zapasowe - ważne dane 41/65
2, 3 0 1 2 potrzebne co najmniej 3 dyski twarde, dane dzielone na poziomie bitów i zapisywane jednoczenie na dwóch dyskach, trzeci dysk przechowuje informacje o korekcji błędów odporność na awarię jednego z dysków. 2, 3, 4 5 6 0+1 1+0 Tworzenie 3 dane są zapisywane na poziomie pojedynczych bajtów, dodatkowy dysk, zawiera informacje o parzystości. Wyparte przez y 5 i 6. 42/65
4 0 1 2, 3, 4 5 6 0+1 4 minimum 3 dyski, dane są dzielone pojedyncze bloki i zapisywane jednocześnie na 2 dyskach, trzeci dysk zawiera informacje o parzystości, możliwa odbudowa przy awarii jednego dysku w macierzy. 1+0 Tworzenie Wyparty przez y 5 i 6. 43/65
5 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie Zalety: - odporność na awarię jednego z dysków - wyższa prędkość zapisu/odczytu w porównaniu z 1 Wady: - niższa wydajność od 0 - koniecznością wyliczania parzystości dla każdego bloku danych Zastosowania: - bazy danych - archiwizacja - magazyn danych dla aplikacji 44/65
6 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie Zalety: - odporność na awarię dwóch dysków - wyższa prędkość zapisu/odczytu w porównaniu z 1 Wady: - niższa wydajność od 0 - koniecznością wyliczania parzystości dla każdego bloku danych Zastosowania: - bazy danych - archiwizacja - magazyn danych dla aplikacji - rozwiązania wysokiej dostępności 45/65
0+1 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie Zalety: - szybkość 0 - prostsza w działaniu i implementacji od rozwiązań z parzystością ( 5, 6) Wady: - większy koszt przechowywania danych w porównaniu do poprzednich rodzajów macierzy Zastosowania: - szybkie magazyny danych - serwery aplikacji 46/65
1+0 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie Zalety: - szybkość 0 - prostsza w działaniu i implementacji od rozwiązań z parzystością ( 5, 6) Wady: - większy koszt przechowywania danych w porównaniu do poprzednich rodzajów macierzy Zastosowania: - szybkie magazyny danych - serwery aplikacji - magazyny danych maszyn wirtualnych 47/65
programowy 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie Windows: Linux: Manager zarządzania dyskami (LVM - ang. Logical Volume Manager): pakiet mdadm: mdadm --create /dev/md0 --level=5 --raid-devices=4 /dev/sda1 /dev/sdb1 /dev/sdc1 /dev/sdd1 48/65
programowy w Linux I Lista aktywnych macierzy cat /proc/mdstat 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie Plik /proc/mdstat Personalities : [raid0] [linear] [multipath] [raid1] [raid6] [raid5] [raid4] [raid10] md0 : active raid0 sdc[1] sdd[0] 209584128 blocks super 1.2 512k chunks unused devices: <none> Odmontowanie macierzy z filesystemu sudo umount /dev/md0 49/65
programowy w Linux II 0 1 2, 3, 4 5 6 Wyłączenie i usunięcie macierzy sudo mdadm --stop /dev/md0 sudo mdadm --remove /dev/md0 Tworzenie 0 sudo mdadm --create --verbose /dev/md0 --level=0 --raid-devices=2 /dev/sda /dev/sdb 0+1 1+0 Tworzenie Tworzenie systemu plików na macierzy sudo mkfs.ext4 -F /dev/md0 50/65
programowy w Windows XP I 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 51/65
programowy w Windows XP II 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 52/65
programowy w Windows XP III 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 53/65
programowy w Windows XP IV 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 54/65
programowy w Windows XP V 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 55/65
programowy w Windows XP VI 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 56/65
programowy w Windows XP VII 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 57/65
programowy w Windows XP VIII 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 58/65
programowy w Windows XP IX 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 59/65
programowy w Windows XP X 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 60/65
programowy w Windows XP XI 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 61/65
programowy w Windows XP XII 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 62/65
programowy w Windows XP XIII 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie 63/65
Wykorzystano następujące materiały: 0 1 2, 3, 4 5 6 0+1 1+0 Tworzenie Hagen W.: Systemy plików w Linuksie, Helion wazniak.mimuw.edu.pl lustre.org www.kdm.wcss.wroc.pl/wiki/ www.ibm.com/support/knowledgecenter/en/ssfkcn/gpfs_welcome.html www.ibm.com/support/knowledgecenter/stxkqy/ibmspectrumscale_ welcome.html ftp://ftp.hp.com/pub/softlib/software11/col31412/co-77999-1/ IBRIX_Fusion_4.3_User_Guide.pdf Patterson, David; Gibson, Garth A.; Katz, Randy: A Case for Redundant Arrays of Inexpensive Disks () Randy H. Katz: : A Personal Recollection of How Storage Became a System" 64/65
0 1 Dziękuję za uwagę! 2, 3, 4 5 6 0+1 1+0 Tworzenie 65/65