Skalowalne aplikacje internetowe wysokiej dostępności

Transkrypt

1 Skalowalne aplikacje internetowe wysokiej dostępności Dariusz Dwornikowski

2 Plan wykładu Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [1/37] Skalowalność, Niezawodność i dostępność, Studium przypadku

3 Definicja skalowalności Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [2/37] Skalowalność systemu oznacza jego zdolność do obsłużenia rosnącej ilości żądań do zasobów. Skalowalność oznacza łatwość rozbudowy systemu, tak aby mógł obsłużyc rosnące wymagania.

4 Skalowalność w pionie Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [3/37] Skalowanie w pionie: zwiększenie zasobów sprzętowych w ramach serwera (RAM, Dysk, drugi procesor). zwiększenie ilości procesów np. serwera HTTP, zwiększenie ilości maszyn wirtualnych w ramach węzła fizycznego.

5 Skalowalność w pionie Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [4/37] Wady: Prawo Moore a, Niezawodność, Szybkie wysycenie, I/O dysku się nie skaluje, problematyczność.

6 Skalowalność w poziomie Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [5/37] Skalowalność w poziomie: dodanie dodatkowego komponentu (serwera, urządzenia) Wady: Koszt, System rozproszony, Większa złożoność, Nie wszystko się da.

7 Niezawodność Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [6/37] Niezawodność jest własnością systemu, mówiącą o tym, czy pracuje on poprawnie przez wymagany czas. Formalnie jest to prawdopodbieństwo, że system będzie działał poprawnie w danym przedziale czasu. R(t) = P (t τ) R(t) niezawodność t czas pracy bez awarii τ założony czas bez awarii

8 Niezawodność Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [7/37] MTBF (ang. Mean time between failures) średni czas pomiędzy awariami MTTF (ang. Mean time to failure) średni czas do awarii MTTR (ang. Mean time to recovery) średni czas do naprawy

9 Niezawodność Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [7/37] MTBF (ang. Mean time between failures) średni czas pomiędzy awariami MTTF (ang. Mean time to failure) średni czas do awarii MTTR (ang. Mean time to recovery) średni czas do naprawy MT BF = MT T F + MT T R

10 Niezawodność Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [8/37]

11 Dostępność Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [9/37] Dostępność to bezawaryjne działanie systemy w trakcie całego czasu jego działania.

12 Dostępność Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [9/37] Dostępność to bezawaryjne działanie systemy w trakcie całego czasu jego działania. λ = 1 MT T F i µ = 1 MT T R

13 Dostępność Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [9/37] Dostępność to bezawaryjne działanie systemy w trakcie całego czasu jego działania. λ = 1 MT T F i µ = 1 MT T R λ P up = µ P down

14 Dostępność Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [9/37] Dostępność to bezawaryjne działanie systemy w trakcie całego czasu jego działania. A = P up = µ µ+λ = λ = 1 MT T F i µ = 1 MT T R λ P up = µ P down 1/MT T R 1/MT T R+1/MT T F = MT T F MT T F +MT T R = R(t)dt

15 Klasy dostępności Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [10/37] Klasa Dostępność Niedostępny (min/rok) Typ systemu 1 90% Niezarządzany 2 99% 5256 Zarządzany 3 99,9% 526 Dobrze zarządzany 4 99,99% 52,6 Odporny na awarie 5 99,999% 5,3 Wysoko dostępny 6 99,9999% 0,53 Bardzo wysoko dostępny 7 99,99999% Ultra dostępny

16 Modelowanie, planowanie Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [11/37] wydajnościowe algebry procesów, teoria kolejek, sieci Petriego, predykcja, prognozowanie, modele matematyczne.

17 Umowy SLA Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [12/37] Umowa SLA (ang. Service Level Agreement) to wynegocjowany poziom świadczenia usługi. Umowa pomiędzy dostawcą, a odbiorcą.

18 Umowy SLA Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [12/37] Umowa SLA (ang. Service Level Agreement) to wynegocjowany poziom świadczenia usługi. Umowa pomiędzy dostawcą, a odbiorcą. 1 Dostawca łącza gwarantuje minimalną przepustowość łącza na poziomie 2Mbit w okresie 99,9%. 2 Dostawca usługi gwarantuje czas odpowiedzi nie wyższy niż 30ms w okresie 99%. 3 Usługa hostingu gwarantuje dostępność na poziomie 99%. UWAGA Pamiętajmy o tabelce!!

19 Skalowalność aplikacji Web Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [13/37] Prosta aplikacja wszystko na jednym węźle fizycznym.

20 Skalowalność aplikacji Web Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [14/37] Wydzielamy bazę danych na drugi węzeł. Skalujemy, a co z niezawodnością?

21 Skalowalność aplikacji Web Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [15/37] Wydzielamy bazę danych na drugi węzeł. Skalujemy, a co z niezawodnością?

22 Skalowalność aplikacji Web Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [16/37] Nasza baza danych działa dobrze, nigdy jeszcze nam nie padła. Jednak serwer WWW nie daje rady. CO ROBIĆ?

23 Skalowalność aplikacji Web Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [16/37] Nasza baza danych działa dobrze, nigdy jeszcze nam nie padła. Jednak serwer WWW nie daje rady. CO ROBIĆ? Oczywiście dokładamy kolejny serwer WWW.

24 Równoważenie obciążeń Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [17/37] Wysyłanie żądań do dwóch lub więcej serwerów, Poziom DNS: kilka adresów IP dla jednej domeny, Poziom HTTP (serwer Reverse Proxy), Transparentne dla użytkownika, Stanowe / Bezstanowe, Algorytmy dystryucji żądań: round robin, weighted round robin, oparte na klasie użytkownika, oparte na historii, oparte na pomiarach.

25 Load balancer Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [18/37]

26 Load balancer Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [19/37]

27 Skalowalność aplikacji Web Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [20/37] Mamy już dość sensowne rozwiązanie. O serwery WWW jesteśmy spokojni. A co z bazą danych?

28 Skalowalność bazy danych Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [21/37] W przypadku baz danych (oraz innych aplikacji stanowych) sytuacja nie jest tak prosta. W grę wchodzi spójność danych, nie możemy dystrybuować żądań pomiędzy kilka osobnych baz. Na szczęście można ten problem rozwiązać dostawcy baz danych dostarczają rozwiązania do klastrowania.

29 Klaster Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [22/37] Klaster jest systemem złożonym z wielu węzłów, jednakże dla użytkownika wydaje się jedną maszyną, systemem operacyjnym. Klaster jest systemem rozproszonym zasoby współdzielone są poprzez komunikację. Przykłady: rozproszone systemy plików, sieciowe pamięci masowe, bazy danych, klastry obliczeniowe, serwery aplikacyjne.

30 Klaster wysokiej dostępności Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [23/37] Klaster wysokiej dostępności (HA cluter) składa się z 2 lub więcej węzłów, realizujących ten sam cel przetwarzania. Może pracować w trybach: Aktywny / Aktywny węzły pracują jednocześnie i obsługują żądania, Aktywny / Pasywny (lub Master Slave) jeden węzeł pracuje, drugi jest w zapasie. Oczywiście można to uogólnić na n węzłów: Active / (n-1) Active, (n/2) Active / (n/2) Passive, (n-f) Active / f Passive.

31 Klaster typu Active / Passive Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [24/37] Mechanizm detekcji awarii bicie serca (heartbeat). Passive sprawdza czy Active działa jeśli nie przejmuje jego rolę. Strategie po tym jak Active wstanie są dowolne. W jednych Active synchronizuje się z Passive i odzyskuje dawną rolę, w innych zostaje Passivem.

32 Klaster typu Active / Passive Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [25/37]

33 Klaster typu Active / Passive Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [26/37]

34 Klaster typu Active / Passive Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [27/37]

35 Niezawodność + skalowalność Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [28/37]

36 Gotowe środowisko Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [29/37] Posiadamy niezawodne, skalowalne środowisko. Nasz portal ma miejsce by obsłużyć więcej użytkowników, a administratorzy mogą spać spokojnie. Występuje jednak pewien problem. Okazuje się, że większość stron WWW portalu nie jest często zmieniania, niepotrzebnie generujemy je za każdym razem, niepotrzebnie też przesyłamy materiały statyczne przy każdym żądaniu (zdjęcia, pliki CSS, pliki JavaScript, itd).

37 Gotowe środowisko Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [29/37] Posiadamy niezawodne, skalowalne środowisko. Nasz portal ma miejsce by obsłużyć więcej użytkowników, a administratorzy mogą spać spokojnie. Występuje jednak pewien problem. Okazuje się, że większość stron WWW portalu nie jest często zmieniania, niepotrzebnie generujemy je za każdym razem, niepotrzebnie też przesyłamy materiały statyczne przy każdym żądaniu (zdjęcia, pliki CSS, pliki JavaScript, itd). Sięgamy po rozwiązania z zakresu optymalizacji wydajnościowej aplikacji WWW. Jednym z nich jest caching.

38 Cache Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [30/37] W naszym przypadku możemy użyć kilku rodzajów cachowania. 1 Cache na poziomie obiektów w aplikacji (memcache)

39 Cache Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [30/37] W naszym przypadku możemy użyć kilku rodzajów cachowania. 1 Cache na poziomie obiektów w aplikacji (memcache) 2 Cache na poziomie serwera aplikacji (akceleratory)

40 Cache Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [30/37] W naszym przypadku możemy użyć kilku rodzajów cachowania. 1 Cache na poziomie obiektów w aplikacji (memcache) 2 Cache na poziomie serwera aplikacji (akceleratory) 3 Cache na poziomie żądań HTTP (serwer Proxy Cache)

41 Cache Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [30/37] W naszym przypadku możemy użyć kilku rodzajów cachowania. 1 Cache na poziomie obiektów w aplikacji (memcache) 2 Cache na poziomie serwera aplikacji (akceleratory) 3 Cache na poziomie żądań HTTP (serwer Proxy Cache) 4 Cache na poziomie przeglądarki klienta (delegowanie cachowania do klienta)

42 Cache Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [30/37] W naszym przypadku możemy użyć kilku rodzajów cachowania. 1 Cache na poziomie obiektów w aplikacji (memcache) 2 Cache na poziomie serwera aplikacji (akceleratory) 3 Cache na poziomie żądań HTTP (serwer Proxy Cache) 4 Cache na poziomie przeglądarki klienta (delegowanie cachowania do klienta) 5 Cache geograficzny (wyspecjalizowane rozwiązania, np. Akamai)

43 Cache Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [31/37] Cache na poziomie obiektów w aplikacji (memcache)

44 Cache Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [32/37] Cache na poziomie serwera aplikacji. języki interpretowane (PHP, Python) każde odwołanie to interpretacja i wykonania koszt akceleratory kompilują do formy wykonywalnej przy pierwszym odwołaniu np. PHP Xcache, PHP eaccellerator, mechanizmy w Django dla Javy wbudowane w serwery aplikacyjne przede wszystkim oszczędza CPU i skraca czas potrzebny na obsłużenie żądania

45 Cache Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [33/37] Cache na poziomie żądań HTTP (serwer Proxy Cache) działa jak serwer proxy HTTP, strona raz wygenerowana zapamiętana w cache.

46 Cache Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [34/37] Cache na poziomie przeglądarki korzystając z nagłówków HTTP ustawiamy przesłanki dla przeglądarki (max-age, Cache-Control, Expires, ETag) przeglądarki wstawiają odpowiednie elementy do cachu lokalnego trzeba bardzo uważać z tym mechanizmem, bo nie mamy nad nim kontroli obejście: <a href= zdjecie.png?v2 >

47 Cache Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [35/37] Cache geograficzny CDN (ang. Content Delivery Network) materiały statyczne widoczne są pod innymi adresami URL, korzystanie z zewnętrznych dostawców przestrzeni Amazon, Akamai,... zalety to szybsze otwieranie się strony (przeglądarka otwiera 2 połączenia na URI) geograficznie rozproszony otrzymujemy treści z bliższej lokalizacji wadą może być niekiedy koszt (łącz, użytkowania)

48 Gotowe środowisko Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [36/37]

49 Dziękuję Dariusz Dwornikowski Skalowalne aplikacje internetowe wysokiej dostępności [37/37]?