Wprowadzanie bardziej wydajnych serwerów 1U oraz serwerów typu blade spowodowało całkowitą zmianę podejścia do klimatyzacji pomieszczeń komputerowych. Dopiero w roku 2001 w stanach Zjednoczonych zauważono, że zasady projektowania infrastruktury chłodzenia instalacji newralgicznych, takich jak ośrodki przetwarzania danych i serwerownie, nie zmieniły się od roku 1965. Od tego czasu powstało kilka organizacji zajmujących się problemami chłodzenia w Data Center, głównym jest tzw. ASHRAE TC9.9 Committee, która wydała szereg publikacji o nazwie Ashrae Datacjom Series. Podstawowe wytyczne dla układu hot aisle cold aisle Obecnie z punktu widzenia poprawności działania uznaje się, że podstawowe wymagania dotyczące każdego systemu chłodzenia pomieszczeń komputerowych ograniczają się do kilku kluczowych wytycznych: dostarczenia odpowiedniej ilości chłodnego powietrza do każdego urządzenia technicznego, odprowadzenia takiej samej ilości gorącego powietrza, zapobiegania recyrkulacji gorącego powietrza, zrealizowania powyższych wytycznych w sposób ciągły, nadmiarowy i energooszczędny. Dodatkowo poza wymaganiami czysto technicznymi, układ chłodzenia serwerowni musi spełniać oczekiwania użytkowników i administratorów tego typu obiektów. Na podstawie ankiet przeprowadzanych wśród kadr zarządzających wymagania stawiane systemom chłodzenia można zamknąć w kilku obszarach tematycznych, takich jak: skalowalność systemu i możliwość adaptacji, niezawodność działania, niskie koszty eksploatacyjne, łatwość serwisowania. Nawet dla układu hot aisle cold aisle z nisko- i średnioobciążonymi (do 6 8 kw) szafami serwerowymi, zapewnienie w/w warunków jest trudne i wymaga przyjęcia już na etapie projektowym szeregu założeń, które muszą zostać bezwzględnie spełnione. Odstąpienie od tych zasad i związane z tym obniżenie skuteczności systemu chłodzenia często pozostaje niezauważone zaraz po uruchomieniu, gdy serwerownia działa na niepełnym obciążeniu. Niektórzy klienci zdając sobie z tego sprawę decydują się na przeprowadzanie pełnych prób obciążeniowych na etapie odbioru instalacji klimatyzacji. O ile można zastosować układ hot aisle cold aisle dla wielu konfiguracji nawiewu, poniższe wytyczne będą dotyczyły tylko wersji klasycznej z podłogą podniesioną jako komorą nawiewną zimnego powietrza. Oczywiście jedynym rodzajem szafy rakowej jaka może być wykorzystana podczas chłodzenia strefowego jest szafa z w pełni perforowanymi drzwiami przednimi i tylnimi. Przy czym zaleca się, aby stopień perforacji był nie niższy niż 55%. Szerokość strefy gorącej i zimnej Najbardziej uniwersalną szerokością strefy zimnej jak wspomniano w 1 cz. artykułu, jest 1 / 8
szerokość 120 cm, czyli odpowiadająca dwóm pełnym panelom podłogowym. Panele te muszą być łatwe do demontażu w przypadku, gdy trzeba będzie wymienić je na elementy nawiewne. Strefa gorąca powinna mieć szerokość minimum 90 cm, przy czym musi zawierać co najmniej jeden rząd pełnych (60x60 cm) demontowalnych paneli podłogowych (rys. 4). Rozmieszczenie i dobór krat nawiewnych Kraty nawiewne lub panele nawiewne należy montować tylko i wyłącznie w strefie zimnej. Należy korzystać z krat bez przepustnic regulacyjnych, które ograniczają maksymalny wydatek aż o 1/3 oraz mają tendencję do samoistnego zamykania się. Obecnie przyjmuje się, że maksymalny wydatek przez panel perforowany to ok. 1000 m 3 /h, natomiast przez kratę nawiewną 600x600 to ok. 2000 m 3 /h. Musimy pamiętać, że nigdy nie instalujemy większej liczby elementów nawiewnych niż wynika to z aktualnego zapotrzebowania na chłód. Wysokość podłogi podniesionej Optymalna wysokość podłogi podniesionej zależy od wielu czynników, obecnie minimalną rekomendowaną wysokość podłogi podniesionej określa się na 60 cm. W przypadku, gdy mogą występować jakieś większe zaburzenia przepływu powietrza pod podłogą wysokość tę należy zwiększyć do 80 100 cm. Ilość powietrza jaką można przetransportować spod podłogi do strefy 2 / 8
zimnej zależy od ciśnienia statycznego pod podłogą. Za idealną uznaje się różnicę ciśnień wysokości 20 25 Pa pomiędzy ciśnieniem statycznym pod podłogą podniesioną, a ciśnieniem w strefie zimnej. Niestety przy źle dobranej wysokości podłogi podniesionej występują znaczne strefowe różnice ciśnień i prędkości powietrza, co przy zbyt niskiej podłodze prowadzi do wystąpienia nader niepożądanego efektu zwanego efektem Venturiego. Efekt ten występuje w przypadku pojawienia się lokalnie, zwykle w pobliżu klimatyzatora, zbyt wysokiej prędkości powietrza i objawia się zasysaniem powietrza pod podłogę podniesioną poprzez kraty znajdujące się najbliżej klimatyzatora. Dla utrzymania obliczeniowej ilości powietrza nawiewanego przez kraty, kluczową rolę odgrywa uszczelnienie wszelkich niepotrzebnych otworów w podłodze podniesionej. Wysokość strefy nad szafami serwerowymi Dla zapewnienia powrotu powietrza do klimatyzatorów przyjmuje się, że wolna przestrzeń nad szafami rakowymi musi wynosić minimum 90 cm. W przypadku zastosowania bardzo skutecznego powrotu przez strop podwieszony, dolna krawędź stropu powinna znajdować się minimum 45 cm ponad najwyższą szafą rakową. Umieszczamy wtedy najprostsze panele perforowane bezpośrednio nad strefą gorącą, a każdy z klimatyzatorów łączymy ze strefą międzystropową specjalnie dobraną nadstawką. Odpowiednie rozmieszczenie szaf klimatyzacyjnych Szafy klimatyzacyjne należy rozmieszczać na końcach rzędów szaf rakowych frontem do stref. Tam, gdzie jest to możliwe należy umieścić klimatyzatory naprzeciwko strefy gorącej, najlepiej po dwie sztuki na jedną strefę. Na rys. 5 zilustrowano przykład niewłaściwego ustawienia (równolegle) szafy klimatyzacyjnej w stosunku do stref. Widoczny jest wyraźnie problem ze swobodnym powrotem powietrza znad stref gorących do szafy klimatyzacyjnej. Niestety z tego rodzaju układami spotykamy się do tej pory pomimo tego, że zjawisko występowania barier cieplnych nad szafami rakowymi jest znane od dawna. Dla tego przypadku 3 / 8
najprostszym i najtańszym rozwiązaniem byłby powrót kanałowy lub powrót poprzez strop podniesiony. Parametry doborowe i pracy klimatyzatorów Wydatek powietrza Wydatek powietrza pracujących klimatyzatorów musi być większy niż maksymalny wydatek wentylatorów w urządzeniach technicznych. Zwykle przyjmujemy nadmiar na poziomie 1,2 zakładając, że zawsze może wystąpić recyrkulacja powietrza pomiędzy strefą gorącą i zimną, spowodowana chociażby odkrywaniem paneli podłogowych w przypadku czynności serwisowych, awarii itp. Oczywiście bardzo ważne jest, aby znać chociaż w przybliżeniu rodzaj i ilość serwerów jakie będą zainstalowane w pomieszczeniu. Jeżeli tego nie wiemy to zakładamy, że powietrze przepływające przez serwer ogrzeje się o ok. 10 C, co odpowiada przepływowi rzędu 350 m 3 /h na 1 kw wymaganej mocy chłodniczej. Temperatura powietrza Jeżeli dla każdego układu klimatyzacyjnego w serwerowni kluczową sprawą jest dostarczenie do strefy zasysania szaf rakowych powietrza o temperaturze w przedziale 20 25 C, to dla chłodzenia strefowego na powrocie do klimatyzatora nie może być nigdy nastawy 22 C. Przyjmując, że temperatura nawiewu z klimatyzatora będzie trochę niższa niż temperatura powietrza dostarczanego w strefę zimną, to współczesna szafa klimatyzacji precyzyjnej (nie licząc urządzeń zaprojektowanych dla temperatur powrotnych do 45 C, a nawet wyżej) pracując na różnicy temperatury ok. 9 10, nie powinna mieć nastawy niższej niż 26 C. Jeżeli występują strefy przegrzania, to obniżanie temperatury na powrocie do klimatyzatorów prowadzi tylko do zmniejszenia wydajności klimatyzatorów. Przy przewidywanej możliwości pracy szaf klimatyzacyjnych w temperaturze powrotnego powietrza wyższej niż katalogowa (zwykle 24 C, przy 50% wilgotności), należy zwrócić uwagę na właściwy dobór skraplacza. Ta sama szafa klimatyzacyjna będzie miała dla temperatury 28 C aż o 15% wyższą moc chłodniczą niż dla temperatury 22 C, dlatego skraplacz dla szafy przeznaczonej do pracy dla wyższych temperatur powietrza powrotnego musi być odpowiednio większy. Wilgotność powietrza Producenci serwerów zalecają wilgotność na zasysaniu rzędu 40 55%, przy dopuszczalnej 20 80%. Najczęściej spotykaną nastawą na szafie klimatyzacyjnej jest wilgotność względna 50%, przy której otrzymujemy na nawiewie powietrze o wilgotności względnej 80% i wyższej. W serwerowniach z bardzo wysoką recyrkulacją, istnieje duże niebezpieczeństwo wykraplania wilgoci z zimnego wilgotnego powietrza. Z pomiarów własnych autora, przeprowadzonych w pracujących serwerowniach, o układzie strefowym, wynika, że przy nastawie 35% na klimatyzatorze serwery zasysały powietrze o wilgotności względnej nie wyższej niż 65%. Dlatego dla poprawnie (bez stref przegrzania) pracujących układów hot aisle cold aisle wystarczy nastawa wilgotności w przedziale 35 40%. Nadmiarowość Samo właściwe rozstawienie szaf rakowych nie jest gwarancją skutecznego chłodzenia. W większości serwerowni z jakimi się zetknął autor, zupełnie zaniedbany był fakt zapewnienia układowi klimatyzacyjnemu odpowiedniej nadmiarowości przy założeniu awarii któregoś z 4 / 8
urządzeń klimatyzacyjnych. Należy pamiętać, że awaria jakiegokolwiek klimatyzatora zmienia fizyczną dystrybucję powietrza w pomieszczeniu. Jak się okazuje projektowanie skutecznych systemów nadmiarowych jest bardzo trudne. Według amerykańskich danych, średnia nadmiarowość mocy chłodniczej w badanych serwerowniach wynosiła 2,6 w stosunku do zapotrzebowania, a i tak średnio 10% sprzętu komputerowego zasysało powietrze w temperaturze wyższej od zalecanej. Na rys. 6a przedstawiono układ z pięcioma działającymi szafami klimatyzacyjnymi, z czego cztery klimatyzatory stoją w korzystnym ustawieniu, po jednym klimatyzatorze na obydwu końcach każdej ze stref gorących. Piąty klimatyzator po prawej stronie stwarza pozory nadmiarowości. Poszczególne kolory oznaczają następujące temperatury: niebieski do 21 C, zielony do 23 C, żółty do 25 C, pomarańczowy do 27 C, czerwony powyżej 27 C. Jeśli działa równocześnie pięć klimatyzatorów widać wyraźny rozdział na strefy gorące i zimne, przy czym na zasysaniu powietrza przez szafy serwerowe temperatura nie przekracza 21 C. Temperatura w strefie gorącej jest wyższa niż 27 C co oznacza, że w momencie pomiaru, dystrybucja powietrza była właściwa. Niepokojące jest to, że do klimatyzatorów wraca zbyt zimne powietrze, co świadczy o podmieszaniu powietrza gorącego z zimnym już bezpośrednio na powrocie, oraz o rzeczywistej nadwyżce w mocy chłodniczej. Co stanie się z systemem klimatyzacyjnym w przypadku awarii jednego z urządzeń pokazuje rys. 6b. Pomimo teoretycznie wystarczającej mocy chłodniczej pozostałych w pracy klimatyzatorów, widać wyraźnie strefę przegrzewu ( hot spot ) w środkowej strefie zimnej. Bezpośrednią przyczyną jej powstania jest zaburzenie właściwego obiegu powietrza w pomieszczeniu. Na zaburzenie obiegu powietrza, poza zbyt małą ilością powietrza nawiewanego, największy 5 / 8
wpływ ma recyrkulacja powietrza. Poza wyżej wymienionymi parametrami podstawowymi, które muszą być zachowane podczas projektowania strefowej klimatyzacji serwerowni, bardzo ważne są wytyczne bezpośrednio ograniczające recyrkulację powietrza. Recyrkulacja powietrza Przez pojęcie recyrkulacji powietrza w serwerowniach rozumiemy zjawisko mieszania się zimnego powietrza z klimatyzatorów z gorącym powietrzem wydmuchiwanym przez urządzenia techniczne. Zadaniem każdego strefowego systemu klimatyzacji jakim m.in. jest układ hot aisle cold aisle, jest jak najskuteczniejsze rozdzielenie zimnego i gorącego powietrza. W praktyce rozróżniamy dwa rodzaje niechcianej recyrkulacji powietrza: recyrkulacja powietrza wewnątrz szafy serwerowej, recyrkulacja zewnętrzna pomiędzy strefami gorącą i zimną, górą lub z boku szaf serwerowych. Recyrkulacja zewnętrzna Najczęstszą przyczyną występowania recyrkulacji zewnętrznej, w poprawnie zaprojektowanych układach chłodzenia strefowego, jest pozostawienie nieuszczelnionych otworów w podłodze podniesionej, umieszczonych wewnątrz szaf rakowych bądź w strefie gorącej. Na rys. 7 pokazano przykładowy rozkład temperatur w strefach w przypadku przedostawania się zimnego powietrza przez nieuszczelnione otwory w podłodze podniesionej w strefie gorącej. Poza niepotrzebnym obniżeniem temperatury powietrza powracającego do klimatyzatorów, nieuszczelnione otwory w podłodze podniesionej mogą skutkować znacznie gorszymi następstwami. Na rysunku nr 8 pokazano przykład, w którym nawiew zimnego powietrza w strefę gorącą, powoduje niedobór zimnego powietrza nawiewanego do strefy zimnej i samoistne zasysanie brakującej ilości powietrza przez najwyżej położone serwery ze strefy gorącej. Należy pamiętać, że nieuszczelniony otwór kablowy stawia mniejszy opór hydrauliczny niż krata lub panel nawiewny. W związku z tym nawet niewielkie otwory kablowe pozostawione bez 6 / 8
uszczelnienia w strefie gorącej mogą prowadzić do znacznego ograniczenia ilości powietrza nawiewanego spod podłogi do strefy zimnej. Recyrkulacja wewnętrzna Poza recyrkulacją powietrza pomiędzy strefami, może wystąpić także recyrkulacja powietrza we wnętrzu samej szafy rakowej. Recyrkulacja wewnętrzna polega na przepływie gorącego powietrza wylotowego wzdłuż obudów serwerów z powrotem do wlotów powietrza. Bezpośrednią przyczyną wystąpienia recyrkulacji wewnętrznej jest różnica ciśnień pomiędzy powietrzem wydmuchiwanym z serwerów (nadciśnienie) a powietrzem zasysanym do urządzeń (podciśnienie). Różnica ciśnień jest na tyle duża, że nie może być zrównoważona przez konwekcyjne unoszenie gorącego powietrza. Recyrkulację wewnętrzną mogą powodować m.in. takie czynniki jak: niewykorzystane miejsca w szafie rakowej, otwarta przestrzeń pomiędzy szynami a bokiem obudowy, nieuporządkowane kable blokujące wypływ powietrza z serwerów. W większości przypadków możemy zapobiec recyrkulacji wewnętrznej przez stosowanie paneli maskujących, które stanowiąc barierę dla gorącego powietrza ograniczają jego zasysanie przez serwery. Na rys. 9 pokazano przykładowy rozkład temperatury powietrza przepływającego przez szafę serwerową bez oraz z zamontowanymi panelami zaślepiającymi. Tego typu panele są w ofercie coraz większej liczby firm produkujących szafy rakowe. Nie kosztują wiele, natomiast są bardzo skuteczne i w zasadzie niezbędne. 7 / 8
Podsumowanie nawiewających ilości projektowanymi wysokie znanych klasycznych Maciej Artykuł Pomimo szaf pochodzi ŻUK koszty jest tego, serwerowych wiele układach że zasilania zimne układami z układy rozwiązań miesięcznika powietrze strefowych. o i hot wysokiej chłodzenia umożliwiających aisle spod Chłodnictwo&Klimatyzacja gęstości cold w szaf podłogi serwerowniach. aisle serwerowych mocy technicznej, instalację z wykorzystaniem (powyżej Przyczyną o serwerów wysokim 8 kw), są w nr szaf są o tego obciążeniu stanie 11/2008 wysokich nadal klimatyzacyjnych są obsłużyć horrendalnie najpowszechniej gęstościach oraz większej fakt, żew 8 / 8