Macierze klasy mid-range Hitachi oraz Microsoft SQL 2 lipca 2009 Tomasz Jangas Senior Solutions Consultant 2008 Hitachi Data Systems
Portfolio produktów Hitachi Data Systems Functionality Intelligent Virtual Storage Systems Hitachi Universal Storage Platform VM USP VM Hitachi Universal Storage Platform V USP V Advanced Midrange Storage Systems Hitachi Adaptable Modular Storage AMS2100 AMS2300 AMS2500 Low-end Storage Systems Hitachi Simple Modular Storage SMS100 Hitachi High Performance NAS Hitachi Essential NAS Gateway or standalone Hitachi Content Archive Platform Hitachi Data Discovery Suite File and Content Storage 2 Scalability
Hitachi Adaptable Modular Storage 2100 Hitachi Dynamic Load Balancing Symetryczne kontrolery active/active Porty: 4x 4Gb/sec FC lub 4x 1Gb/sec iscsi Pamięć cache: 4GB lub 8GB Maksymalna ilość wolumenów logicznych (LUN): 2048 Maksymalna ilość podłączonych serwerów: 512 16 aktywnych połączeń SAS (16x 3Gb/sec) Hitachi Adaptable Modular Storage 2100 SATA & SAS intermix min/max ilość dysków: 4/120 Wspierane dyski twarde: SAS: 146GB 15K RPM 300GB 15K RPM 400GB 10K RPM SATA: 500GB 7200 RPM 1TB 7200 RPM Pojemność 118TB SATA 47TB SAS Ilość grup RAID per macierz: 50 Wpierane poziomy RAID: -6, -5, -1+0, -1, -0* Półki 3U (max 7) 2 do 15 dysk ysków w półce Kontroler 4U 4 do 15 dysków 3 * RAID-0 wspierany tylko na dyskach SAS
Hitachi Adaptable Modular Storage 2300 Hitachi Dynamic Load Balancing Symetryczne kontrolery active/active Porty: 8x 4Gb/sec FC lub 4x 1Gb/sec iscsi Pamięć cache: 8GB lub 16GB Maksymalna ilość wolumenów logicznych (LUN): 4096 Maksymalna ilość podłączonych serwerów: 1024 16 aktywnych połączeń SAS (16x 3Gb/sec) Hitachi Adaptable Modular Storage 2300 SATA & SAS intermix min/max ilość dysków: 4/240 Wspierane dyski twarde: SAS: 146GB 15K RPM 300GB 15K RPM 400GB 10K RPM SATA: 500GB 7200 RPM 1TB 7200 RPM Pojemność 236TB SATA 94TB SAS Ilość grup RAID per macierz: 75 Wpierane poziomy RAID: -6, -5, -1+0, -1, -0* Półki 3U (max 15) 2 do 15 dysk ysków w półce Kontroler 4U 4 do 15 dysków 4 * RAID-0 wspierany tylko na dyskach SAS
Hitachi Adaptable Modular Storage 2500 Hitachi Dynamic Load Balancing Symetryczne kontrolery active/active Porty: 16x 4Gb/s FC lub 8x 1Gb/s iscsi lub 8x 4Gb/s FC & 4x 1Gb/s iscsi Pamięć cache: 16GB lub 32GB Maksymalna ilość wolumenów logicznych (LUN): 4096 Maksymalna ilość podłączonych serwerów: 2048 32 aktywne połączenia SAS (32x 3Gb/sec) Hitachi Adaptable Modular Storage 2500 SATA & SAS intermix min/max ilość dysków: 4/480 Wspierane dyski twarde: SAS: 146GB 15K RPM 300GB 15K RPM 400GB 10K RPM SATA: 500GB 7200 RPM 1TB 7200 RPM Pojemność 472TB SATA 188TB SAS Ilość grup RAID per macierz: 100 Wpierane poziomy RAID: -6, -5, -1+0, -1, -0* Półki 3U (max 32) 4 do 15 dysków w I półce 2 do 15 dysk ysków w pozostałych Kontroler 4U bez dysków 5 * RAID-0 wspierany tylko na dyskach SAS
Hitachi AMS2500 architektura 6
Hitachi AMS2x00 podsystem dyskowy 7
Controller Hardware Load Balancing 8
HDLB prosta instalacja wolumenów Zalety Łatwe i szybkie tworzenie wolumenów logicznych Brak konieczności przypisywania LU Ownership przy tworzeniu wolumenu Tradycyjne podejście AMS2x00 Paths set to match controller ownership Of LUs User required to set paths CTL0 0 1 2 3 CTL1 Connect HBAs to any controller User not required to set paths CTL0 1 3 0 2 CTL1 LUs created LUN: 0 LUN: 1 LUN: 2 LUN: 3 LUs created LU LUN: 1 LUN: 3 LUN: 0 LUN: 2 0Owning controller of LUN 0 9
HDLB współpraca praca z narzędziami path failover Zalety Możliwość wykorzystania wielu ścieżek również dla celów równoważenia obciążeń w obrębie portów zewnętrznych. Tradycyjne podejście Primary path Alternate path User required to set paths cie AMS2x00 Path Path Standard setting Path Path Path Path Manager Manager Manager Manager balancing) (Load Manager Manager Manager Manager HBA HBA HBA HBA HBA HBA HBA HBA HBA HBA HBA HBA HBA HBA HBA HBA 2 3 1 2 User not required to CTL0 CTL1 CTL0 CTL1 set paths Path 0 Path 1 0 3 LUN: 0 LUN: 1 LUN: 2 LUN: 3 LUN: 0 LUN: 1 LUN: 2 LUN: 3 0Owning controller of LUN 0 10
HDLB automatyczne równowa wnoważenie obciąż ążeń Zalety Optymalna wydajność jest osiągana przy minimalnym zaangażowaniu administratora. Automatyczne równoważenie obciążeń pomiędzy kontrolerami. (2) Analysis Tradycyjne Need to manually reconfigure (4)Change podejście Automatically AMS2x00 (1) information Send Performance monitor 1 1 2 Changes Load balancing is executed automatically 0 3 Load function balance0 1 12 CTL0 CTL1 CTL1 CPU usage: CPU 10% usage: 70% CPU 40% usage: 10% 40% CTL0 70% 0Owning controller of LUN 0 LUN: 0 LUN: 1 LUN: 2 LUN: 3 LUN: 0 LUN: 1 LUN: 2 LUN: 3 Unique for Midrange (3) Planning (5) Change path setting 3 40% CPU usage: 11
Oprogramowanie dostarczane z macierzami Oprogramowanie Storage Navigator Modular 2 Dostarczane funkcjonalności ci Account Authentication Audit Logging LUN Manager LUN Grow/LUN Shrink * Online RAID Group Expansion * Cache Residency Manager Cache Partition Manager Modular Volume Migration SNMP Agent Support Function Performance Monitor Możliwo liwości Zarządzanie poprzez GUI oraz CLI Możliwo liwości Kontrola dostępu do funkcji zarządzania Monitorowanie zmian konfiguracji Operacje zarządzania wolumenami logicznymi Dynamiczne zwiększanie/zmniejszanie pojemności LUN Dynamiczne dodawanie dysków do grupy RAID Zapisanie danych z wybranego wolumenu do pamięci cache Partycjonowanie pamięci cache Dynamiczna migracja danych pomiędzy wolumenami Raportowanie statusu do serwera SNMP Monitorowanie i raportowanie wydajności macierzy 12
Oprogramowanie opcjonalne TrueCopy (replikacja synchroniczna) TrueCopy Extended Distance (replikacja asynchroniczna) Data Retention Utility Device Manager Tuning Manager Replication Manager Protection Manager Oprogramowanie ShadowImage (klon) Copy-on-Write (snapshot) Dynamic Link Manger Global Link Manager Storage Capacity Reporter Power Savings Service (Spin Down) 1 źródło:8 kopii, 2047 max, GUI & CLI 1 źródło:32 kopii, 2047 max, GUI & CLI 1 źródło:1 kopia, GUI & CLI 1 źródło:1 kopia, GUI & CLI Zabezpiecza wolumeny przed zapisem (zmianami) Zarządzanie macierzami Możliwo liwości Monitorowanie wydajności na całej drodze I/O Ułatwia konfiguracje i zarządzanie funkcjami kopiowania Zarządzanie backupem i odzyskiwaniem danych Obsługa funkcji path failover i load balancing Pozwala na zarządzanie wieloma HDLMami z poziomu pojedyńczej konsoli Raportowanie stanu pojemności end-to-end Wyłącznanie niewykorzystywanych dysków twardych 13
Półka na dyski High Density Storage Expansion 48 dysków w półce o wysokości 4U Zwiększenie gęstości upakowania dysków w CPD: 2.4x zwiększenie gęstości (GB/RU) do 432 dysków w pojedyńczej szafie Rack redukcja maksymalnej konfiguracji AMS2300 i AMS2500 do pojedyńczej szafy Rack Dyski SATA 1TB 7200 rpm (2TB w przyszłości) Dyski hot-swap Możliwość wykorzystania zarówno półek High Density oraz półek standardowych za pojedyńczą parą kontrolerów 14
Cache Partition Manager 15 Pamięć cache można podzielić na partycje, które będą używane wyłącznie przez przypisane im woluminy LUN Adaptable Modular Storage 2100: 2 16 Adaptable Modular Storage 2300: 2 32 Adaptable Modular Storage 2500: 2 32 Kontroler0 16 Partycja0 KB (stałe) Uniwersalna (domyślnie) Partycja2 4 KB Bazydanych Kontroler1 Partycja3 256 Podwójny jnyzapis KB Strumienie Podwójny jnyzapis 16 Partycja1 KB (stałe)partycja6 64 KB Partycja4 64 KB Partycja7 4 KB Partycja5 16 KB Partycja8 1 MB DlaHPC DlaHPC Możliwy jest wybór rozmiaru segmentu: 4, 8, 16, 64, 256 lub 512 KB Możliwy jest wybór rozmiaru stripe na dyskach twardych
Cache Partition Manager Inne macierze na rynku: Segmenty pamięci o stałym rozmiarze (16 KB) Dla aplikacji z krótkimi blokami do hosta aplikacje transakcyjne (np. bazy danych) 16 KB Niski współczynnik poprawnego odwołania do pamięci cache! 75% pamięci cache jest niewykorzystana!!! AMS 2x00: Wybór rozmiaru segmentu 8 KB Po określeniu mniejszego rozmiaru segmentu zwiększy się współczynnik trafienia w pamięć cache i poprawi się wydajność. 16
Cache Partition Manager Inne macierz na rynku: Segmenty pamięci o stałym rozmiarze (16 KB) Dla aplikacji z długimi blokami do hosta streaming (np. aplikacje do backupu lub aplikacje multimedialne) 16 KB Duże obciążenie wynikające z liczby segmentów dla każdego wejścia i wyjścia! AMS 2x00: Wybór rozmiaru segmentu 256 KB Po wybraniu większego rozmiaru segmentu obciążenie zmniejszy się, a wydajność zwiększy. 17
Wybór stripe size na dyskach Wybór stripe size : 64KB, 256KB, 512KB 128KB 1 ZAPIS na LUN = 2~3 ZAPISY na HDD 128KB 1 ZAPIS na LUN = 1~2 ZAPISY na HDD Stripe Size 64KB Stripe Size 256KB HDD HDD Wysoka przepustowość dzięki równoległym zapisom I/O na wiele dysków Dobre dla aplikacji sekwencyjnych Niższe obciążenie spowodowane mniejszą ilością zapisów I/O na dysk Dobre dla aplikacji transakcyjnych 18
Cache Residency Manager Administrator definiuje rozmiar pamięci cache dedykowany dla tej funkcji Administrator lub aplikacja (poprzez API) dynamicznie mapuje obszar przestrzeni Cała aktywność I/O wykonywana jest w pamięci cache Zapisy są mirrorowane i zapisywane na dysk w sposób asynchroniczny Extent Enhanced Read/Write Performance Cache Residency Area Cache Mirrored Cache LUN LUN LUN LUN Extent Extent 19
Możliwo liwości pracy z wieloma systemami Wsparcie dla wielu systemów operacyjnych: Microsoft Windows 2000, Windows Server 2003, Windows 2008 Hyper-V Sun Solaris (Sparc and x64 ) VMware RedHat Enterprise Linux, SuSE Linux, RedFlag Linux, Oracle Enterprise Linux, Asianux, MiracleLinux, others HP-UX IBM AIX MAC OSX Novell NetWare HP Tru64 UNIX HP OpenVMS 20
Volume Migration Software - zastosowanie Rozbudowa istniejących grup dyskowych Zarządzanie cyklem życia informacji (DLM) Poprawa wydajności LU1 migracja On-Line LU2 21
Poprawa wydajności Wykorzystanie Performance Monitora lub HTnM do znalezienia wąskich gardeł Wykorzystanie Volume Migration do lepszego zbalansowania zasobów macierzy (kontrolery, cache, dyski) Usunięcie wąskich gardeł wydajnościowych migracja On-Line przed migracją obciąż średnio mocno ążona RG LU1 LU2 obciąż średnio ążona słabo RG LU2 LU1 duże obciążenie I/O po migracji 22
Backup SQL a mechanizmy Hitachi ShadowImage In-System Replication (klon) Pełna kopia asynchroniczna 8 kopii per 1 źródło Maximum 2047 par dla AMS2500 Copy-on on-write Snapshot (migawka) Kopia migawkowa 32 snapshoty per 1 źródło Maximum 2046 snapshotów dla AMS2500 23
Protection Manager Pozwala na natychmiastowy backup/restore typu Split Mirror dla: MS Exchange Server 2000, 2003, 2007, SQL Server 2000, 2005, 2008, MS SharePoint 2007, NTFS, Oracle 10g, 11g 24
Backup i restore Fizyczne kopiowania danych ma miejsce wewnątrz systemu pamięci masowej z wykorzystaniem aplikacji do replikacji danych: Poza serwerem, nondisruptive, LAN-free backup Wybór aplikacji do replikacji: Hitachi ShadowImage In-system Replication software Hitachi Copy-on-Write Snapshot software Hitachi TrueCopy Remote Replication software 25
Wykrywanie i mapowanie zasobów SQL Server Storage Subsystem SQL Instance Database File System Mount Point P-Vol SVOL S-Vol ShadowImage P-Vol S-Vol S-Vol 2:00AM P-Vol S-Vol 1:00PM S-Vol 2:00AM Backup target P-Vol S-Vol 1:00PM 26
Integracja z aplikacjami Pracuje z NetBackup, IBM Tivoli Storage Manager, Legato, BackupExec, CommVault, etc. 27
Wydajność & pozycjonowanie Performance Metric AMS 200 AMS 2100 AMS 500 AMS 2300 AMS 1000 AMS 2500 Read Hit (IOPS) 90 000 400 000 200 000 400 000 300 000 900 000 Sustained Throughput (MB/Sec) 380 1250 760 1350 1520 2400 28
Wyniki testów SPC-1 Published SPC-1 Benchmarks sorted by Performance (IOPS at ~5 milliseconds and total IOPS) 250000 225000 200000 175000 150000 IOPS 125000 100000 75000 50000 25000 0 SUN6130 SUN6540 SUN6140 DS4700E CX3-40 FAS3040 AMS2100 Pillar Axiom 600 DS4800 FAS3170 AMS2300 DS5300 SUN6780 AMS2500 3PAR F400 DS8000 3PAR T800 USP-V IOPS @ 5ms. Total IOPS Limit 5 ms czasu odpowiedzi jest na rynku uznawany za standard dla aplikacji Jak USPV mogło osiągnąć maksymalne wyniki IOPS nie wychodząc poza limit 5ms? 29
Hitachi Tuning Manager analiza wydajności Statystyki I/O Hitachi Array Port CHP Cache ACP/DKC Parity Group Disk App HBA / Host Switch Storage System 30 Cechy: Zalety: Monitorowanie raportowanie i przewidywanie związane zarówno z wydajnością jak i pojemnością Analizowanie i diagnozowanie problemów Jedno rozwiązanie zarówno dla zaawansowanego planowania zapotrzebowania na pojemność oraz zarządzania wydajnością Proaktywne zapobieganie problemom, monitorowanie i zaawansowane przewidywanie prawdopodobnego ryzyka związanego z przerwami spowodowanymi brakiem przestrzeni dyskowej Lepsze alokowanie przestrzeni oraz poprawiona utylizacja przestrzeni dyskowej
Analiza z Tuning Manager em em Server App SAN Storage External Storage HiCommand Tuning Manager Server Oracle, SQL Server, DB2, Exchange, DB Instances, Tablespaces, File systems, CPU Util., Memory, Paging, Swapping, File System perf., capacity, util. Switch Whole Fabric, each switch, each port, MB/sec, frames/sec, buffer credits Storage Ports, LDEVs, Parity Group, Cache utilization, performance IOPS, MB/sec, capacity, util. 31
Tworzenie własnych raportów Select from Pre-defined or User-defined reports Select options Display customized real-time reports Now including overlay reports With multiple Y-axes 32
Rodzaje obciąż ążeń w MS SQL Dopuszczalne czasy odpowiedzi dla bazy danych: 5-20 ms Dopuszczalne czasy odpowiedzi dla dzienników: 1-5 ms 33
Cechy AMS2x00 vs. wymagania dla SQL-a Architektura kontrolerów Wydajny podsystem dyskowy Algorytmy pamięci cache, pozwalające na: rozpoznanie wzorca obiążenia IO i optymalizacje jego obłsugi możliwość podjęcia decyzji o tym kiedy przenieść dane z pamięci cache na dyski możliwość łączenia wielu logicznych zapytań I/O w jedno fizyczne zapytanie optymalizowanie kolejności poszczególnych odczytów i zapisów 34
Podstawowe rozważania ania na temat wymiarowania Umieść bazę danych i dzienniki na oddzielnych grupach RAID Umieść pliki dzienników na grupach RAID-1+0 lub RAID-1 Wybierz odpowiednią konfigurację RAID dla bazy danych => cena / wydajność Utwórz po jednym pliku tempdb dla każdego rdzenia CPU o takich samych rozmiarach Możesz utworzyć pliki tempdb na oddzielnej grupie RAID niż baza danych 35
Podstawowe rozważania ania na temat wymiarowania Używaj dysków SAS / FC dla bazy danych, dzienników i plików tempdb Używaj wielu mniejszych dysków, konfigurując grupę RAID Dopasuj odpowienio przesunięcie sektorów na dyskach (tylko dla Windows 2003) wykorzystaj program Diskpart.exe wybierz offset = 64KB (128 sektorów) zrób to zanim utworzysz plik z bazą danych Dopasuj allocation unit size do profilu Twojego I/O (np. 64KB) 36
Podstawowe rozważania ania na temat wymiarowania Ustaw odpowiędnią długość kolejki na karcie HBA Dla macierzy AMS2000 maksymalna ilość CDB (command data block) dla pojedyńczego portu FC wynosi 512 => policz długość kolejki wg następującego wzoru 512 / ilość wolumenów udostępnionych przez dany port = długość kolejki Wiele aplikacji korzystających z SQL generuje raczej bardzo intensywne obciążenie IO (dużo jednoczesnych zapytań) => lepsza wydajność jest generlanie osiągana poprzez zwiększenie długości kolejki. 37
Moniotorowanie pracy SQL metryki związane zane z systemem pamięci masowej 38
Moniotorowanie pracy SQL metryki związane zane z systemem pamięci masowej 39
Moniotorowanie pracy SQL metryki związane zane z systemem pamięci masowej 40
Moniotorowanie pracy SQL metryki związane zane z systemem pamięci masowej 41
Moniotorowanie pracy SQL metryki związane zane z systemem pamięci masowej 42
Referencyjne konfiguracje...... dostęne w dokumencie: 43