Integracja oraz indeksowanie rozproszonych zasobów danych w technologii data grid ****

Transkrypt

1 AUTOMATYKA 2009 Tom 13 Zeszyt 3 Kamil Kuliberda*, Tomasz M. Kowalski*, Jacek Wiœlicki*, ***, Rados³aw Adamus*, ***, Micha³ Meina** Integracja oraz indeksowanie rozproszonych zasobów danych w technologii data grid **** 1. Wprowadzenie Grid to nowatorska technologia szeroko badana przez akademickie oraz komercyjne instytucje. Przez ostatnich piêæ lat corocznie, na œwiecie odbywa siê ponad dziesiêæ konferencji poœwieconych tematyce gridowej. Rozwi¹zania gridowe s¹ nie tylko wa ne w sferze badawczej, obecnie ich znaczenie jest niemal takie samo w sferze biznesowej. Do tej pory powsta³o kilka ró nych rozwi¹zañ systemów gridowych wspó³pracuj¹cych z ró nymi Ÿród³ami danych jak i wspieraj¹cych ró ne procesy biznesowe jednak nadal s¹ one niekompatybilne ze sob¹ nawzajem. Artyku³ ma na celu przybli yæ czytelnikowi badania, których celem jest opracowanie ogólnej architektury gridowej wspieraj¹cej potrzeby biznesowe w przetwarzaniu ogromnych iloœci danych przechowywanych w heterogenicznych bazach danych. Niniejszy artyku³ prezentuje architekturê data grid (DG), w której przetwarzane s¹ dane strukturalne. Architektura DG opisuje aspekty techniczne przetwarzania danych w wirtualnym repozytorium (WR) (virtual repository), które jest kompletn¹ technologi¹ dla przeÿroczystego przetwarzania danych dostêpnych równie w ró nych formach postaciach biznesowych dla u ytkowników. Wirtualne repozytorium zosta³o stworzone na podstawie podejœcia stosowego do baz danych (Stack Based Approach to databases) w skrócie SBA oraz jêzyka do baz danych SBQL zaimplementowanym w prototypowej obiektowej * Katedra Informatyki Stosowanej, Politechnika ódzka ** Wydzia³ Matematyki i Informatyki Uniwersytetu Miko³aja Kopernika w Toruniu *** Stypendysta projektu Innowacyjna dydaktyka bez ograniczeñ zintegrowany rozwój Politechniki ódzkiej zarz¹dzanie uczelni¹, nowoczesna oferta edukacyjna i wzmacnianie zdolnoœci do zatrudniania, tak e osób niepe³nosprawnych wspó³finansowany przez Uniê Europejsk¹ w ramach Europejskiego Funduszu Spo³ecznego **** Praca naukowa finansowana ze œrodków na naukê w latach 2008/2009 jako projekt badawczy nr N

2 1564 Kamil Kuliberda, Tomasz M. Kowalski, Jacek Wiœlicki, Rados³aw Adamus, Micha³ Meina bazie danych ODRA. Wirtualne repozytorium posiada równie wbudowan¹ platformê transportow¹ peer-to-peer (TP) dzia³aj¹c¹ jako tzw. warstwa poœrednia (middle-layer) wspomagaj¹ca wymianê danych (poprzez wewnêtrzne indeksowanie) miêdzy poszczególnymi wêz³o-zasobami gridu. Omawiane rozwi¹zanie dedykowane jest dla rozproszonych, heterogenicznych zasobów danych, które w nieskomplikowany sposób mog¹ byæ wirtualnie powi¹zane w jeden scentralizowany, jednorodny byt grid bazodanowy [1]. Do szybkiego dostêpu do du ej iloœci danych dostêpnych z tak skonstruowanego gridu wykorzystywany jest w WR indeks rozproszony (distributed index). Reszta artyku³u jest zorganizowana w nastêpuj¹cy sposób. W sekcji 2 prezentujemy podstawowe funkcjonalne elementy WR i DG, dalej omówione s¹ szczegó³y SBA oraz implementacji ODRA oraz mechanizm ulotnego indeksowania. 2. Wirtualne repozytorium oraz data grid Przetwarzanie danych w WR obejmuje kilka z³o onych problemów. Jednym z nich jest aktualizacja wirtualnych danych widocznych poprzez WR stan badañ z tej dziedziny nie jest jeszcze kompletny i praktycznie niezbadany. Podobna problematyka tyczy siê budowy globalnej infrastruktury bezpieczeñstwa zbudowanej w obrêbie WR, konsoliduj¹cej mechanizmy spadkowe oraz globalny mechanizm transakcji. Kolejny problem zwi¹zany jest z wydajnoœci¹ przetwarzania danych a w szczególnoœci z optymalizacj¹ zapytañ jêzyka zorientowanego obiektowo jako interfejsu WR. Problemy uwidocznione powy ej inspiruj¹ badania nad stworzeniem ogólnych metodologii, œrodowisk, narzêdzi i jêzyków, które maj¹ wspomagaæ tworzenie sieci grid (biznesowo zorganizowanej jako WR), ukierunkowanej na stworzenie konkretnego scenariusza integracji. Proponowanym przez nas rozwi¹zaniem jest wykorzystanie architektury przedstawionej na rysunku 1 oraz techniczne rozwi¹zanie poszczególnych jej nastêpuj¹cych sk³adników: budowa na podstawie kontraktu biznesowego modelu kanonicznego i schematu odpowiadaj¹cego wymaganiom globalnego u ytkownika WR (uwzglêdniaj¹c przy tym regulacje prawne, standardy oraz dzia³anie poszczególnych u ytkowników); model i schemat powinien zostaæ wyra ony w jêzyku ³atwo interpretowalnym maszynowo jak i przez cz³owieka; budowa lokalnych modeli i schematów poszczególnych dostawców danych i us³ug, które w ten sposób wyra aj¹ swoje zasoby w terminologii globalnego modelu; budowa scenariusza integracji na podstawie lokalnych schematów i globalnego schematu, uwidaczniaj¹cego zale noœci miêdzy poszczególnymi u ytkownikami (m.in. redundancjê, replikacje, zale noœæ biznesow¹ itp.); stworzenie poœredniej warstwy transportowej ponad ró nymi protoko³ami transportowymi oraz architektur¹ sieci fizycznej (NAT, firewalle itd.); ten modu³ powinien równie umo liwiaæ w sposób przezroczysty utrzymanie aktualnego stanu WR szczególnie jego zawartoœci danych;

3 Integracja oraz indeksowanie rozproszonych zasobów danych w technologii data grid 1565 realizacja narzêdzi do pracy ze zdalnymi obiektami, w szczególnoœci udostêpniane w sposób przezroczysty lokalnie dostêpnych danych jako dane globalne dostêpne dla wszystkich wspó³u ytkowników gridu; opracowanie za³o eñ oraz realizacja os³on (wrappers) zewnêtrznych mechanizmów pozwalaj¹cych na udostêpnianie danych przez ich poszczególnych dostawców. Pomimo e literatura zawiera wiele prac poruszaj¹cych omawian¹ tematykê, dziedzina ta jest jeszcze we wczesnym etapie badañ, a rozwi¹zania dotychczas wprowadzane w praktyce dalekie s¹ od uniwersalnych i ³atwo dostêpnych. Nasze badania nad generyczn¹ baz¹ danych zorientowan¹ obiektowo skupi³y siê nad wykorzystaniem jêzyka zapytañ oraz mechanizmów aktualizowalnych perspektyw [9] w celu zaprojektowania mechanizmu gridowego zawieraj¹cego zarówno rozwa ania teoretyczne jak i praktyczne implementacje wykraczaj¹ce poza aktualny stan sztuki. Rys. 1. Idea wirtualnego repozytorium. U ytkownicy maj¹ dostêp do danych w najbardziej odpowiadaj¹cej im formie bez wiedzy o rzeczywistej formie danych oraz dostarczaj¹cych je us³ugach Rzeczywista realizacja wskazanej koncepcji zak³ada wspó³pracê ju istniej¹cych i niezale nych technologii. Podstawowym aspektem jest stworzenie tutaj dobrego projektu platformy dla utworzenia WR, zak³adaj¹cego u ycie mechanizmów utrzymywania heterogenicznych zasobów (np. poprzez u ycie mechanizmów os³on lub mapowania schematów), platformy wymiany danych, bezpieczeñstwa sieci grid oraz zarz¹dzania WR (w ramach

4 1566 Kamil Kuliberda, Tomasz M. Kowalski, Jacek Wiœlicki, Rados³aw Adamus, Micha³ Meina Platformy Transportowej). Takie rozwi¹zanie mo e byæ fizycznie zrealizowane poprzez wspó³istnienie oraz wspó³pracê oddzielnych mechanizmów (modu³ów lub komponentów) bior¹cych udzia³ w przetwarzaniu tych samych danych. Na bazie takich narzêdzi oraz przy znajomoœci architektury WR ka dy programista bêdzie w stanie samodzielnie zrealizowaæ odpowiedni modu³ dostêpu do danych dla istniej¹cego ju gridu. Nasze podejœcie zak³ada u ycie nastêpuj¹cych rozwi¹zañ w ramach poszczególnych komponentów: wirtualne repozytorium (WR) fizycznie dostêpne przez aplikacje opieraj¹ce siê na opisanej architekturze; poszczególne czêœci repozytorium to aplikacje klienta i dostawcy oraz aplikacja zarz¹dzaj¹ca gridem; platforma transportowa (PT) udostêpniaj¹ca niezale ne œrodowisko programistyczne, odpowiedzialna za transfer danych oraz przetwarzanie transakcyjne na poziomie komunikacji. Platforma powinna umo liwiæ nieograniczony fizyczny dostêp do sieci grid klientom i dostawcom danych oraz zapewniæ protoko³y wymiany danych. PT zorganizowana jest w postaci centralnie zarz¹dzanej sieci peer-to-peer, umo liwiaj¹cej m. in. identyfikacjê kooperuj¹cych wêz³ów, konwencje nazw, po³¹czenia miêdzy wêz³ami, bezpieczeñstwo transmisji itd. Ponadto istotnym elementem jest zapewnienie przezroczystego dostêpu do zasobów oraz skalowalnoœæ platformy, a tak e uniezale nienie siê od sieci fizycznej TCP/IP. Wszystkie te za³o enia zosta³y zaimplementowane przy u yciu multiprotoko³owej, programowalnej platformy p2p biblioteki JXTA [6]. 3. Implementacja SBA i SBQL w silniku bazy danych ODRA Integracja rozproszonych zasobów wymaga zastosowania elastycznej platformy spe³niaj¹cej nastêpuj¹ce za³o enia: generyczny model danych, zdolny do wyra enia szerokiej gamy mo liwych modeli Ÿróde³ danych; pe³noprawny jêzyk programowania ogólnego przeznaczenia zintegrowany z wysokopoziomowym jêzykiem zapytañ; wirtualne perspektywy z mo liwoœci¹ wyra enia metody aktualizacji, umo liwiaj¹ce przede wszystkim wyra enie lokalnych zasobów w ramach globalnego modelu, budowanie globalnej aplikacji poprzez integracje lokalnych zasobów i dostosowywanie globalnych zasobów dla potrzeb konkretnych klientów. Wy ej wymienione funkcjonalnoœci s¹ trudne do osi¹gniêcia przy u yciu aktualnych rozwi¹zañ, jêzyków programowania oraz wspólnych modeli danych. Niemniej jednak podejœcie stosowe (Stack Based Approach) do jêzyków zapytañ/programowania [7, 8] umo liwia stworzenie platformy z pe³nym zestawem narzêdzi koniecznych do realizacji opisywanego rozwi¹zania. SBA umo liwia wyra enie wszystkich popularnych koncepcji pochodz¹cych z rozwa añ nad obiektowymi bazami danych i wprowadza kilka nowych elementów, wczeœniej nie znanych: np. dynamiczne role obiektów czy wirtualne aktualizowalne perspektywy.

5 Integracja oraz indeksowanie rozproszonych zasobów danych w technologii data grid 1567 Jêzyk zapytañ oparty o podejœcie stosowe nazywany jest SBQL (Stack Based Query Language) [7, 8], w którym nie wystêpuje rozró nienie na wyra enia jêzyka programowania oraz na konstrukcje deklaratywne (zapytania) przetwarzaj¹ce dane. SBQL jest zdefiniowany na bardzo ogólnym modelu danych z zachowaniem zasady wewnêtrznej identyfikacji obiektów. SBQL ponadto udostêpnia szereg imperatywnych konstrukcji i mechanizmów, tj.: instrukcje steruj¹ce, procedury, klasy, interfejsy i modu³y. Jednym z najwa niejszych konstruktorów SBQL jest aktualizowalna perspektywa obiektowa [9], przy czym umo liwia ona wyra enie dowolnego sposobu aktualizacji. Programista/projektant perspektywy ma pe³n¹ kontrolê nad procesem aktualizacji, który jest dokonywany na wirtualnym obiekcie, zdefiniowanym przez perspektywê. Nie istniej¹ adne restrykcje zwi¹zane z operacjami dozwolonymi. Definicja perspektywy mo e byæ zagnie d ana oraz zawieraæ procedury oraz zmienne. Jêzyk SBQL zosta³ zaimplementowany w ramach prototypowego silnika bazodanowego ODRA (Object Database for Rapid Application Development) [10]. Celem tego projektu jest stworzenie zorientowanej obiektowo platformy do tworzenia aplikacji. 4. Rozproszony indeks w wirtualnym repozytorium Indeks jest sztuczn¹ (redundantn¹) strukur¹ bazodanow¹ utrzymywan¹ po stronie serwera, pozwalaj¹c¹ na szybszy dostêp do obiektów (rekordów) pasuj¹cych do zadanego kryterium. Administrator bazy danych zarz¹dza pul¹ indeksów generuj¹c nowe b¹dÿ usuwaj¹c stare zale nie od potrzeb. Niew¹tpliw¹ zalet¹ indeksów jest ich relatywnie ma³y rozmiar (w porównaniu do ca³ej bazy danych) i jednoaspektowe wyszukiwanie, które czyni organizacjê indeksu niezwykle prost¹. Implementacja indeksowania w WR zorientowanego obiektowo wymaga zastosowania standardowych technik indeksowania dostêpnych lokalnie i technik dedykowanych œrodowisku rozproszonemu. To podejœcie nie jest jeszcze dok³adnie zbadane i wymaga wprowadzenia nowych rozwi¹zañ. Autorzy skupili siê na rozwi¹zaniu Scalable Distributed Data Structure (SDDS) [4] jako punkcie wyjœciowym do organizacji rozproszonego indeksu, po to, aby optymalnie wykorzystaæ zasoby WR (opis technik optymalizacja zapytañ dla lokalnych i rozproszonych indeksów z uwzglêdnieniem ich przezroczystoœci zostaje w tekœcie celowo pominiêty z uwagi na jego z³o onoœæ). Istotn¹ w³aœciwoœci¹ systemu rozproszonego upraszczaj¹c¹ projektowanie oraz zarz¹dzanie danymi jest w³aœciwoœæ przezroczystoœci dostêpu. Identycznie sytuacja przedstawia sie z indeksowaniem. Przyk³adowo u ywaj¹c relacyjnych SZBD (Systemów Zarz¹dzania Baz¹ Danych) programista nie musi byæ œwiadom istnienia indeksów z racji tego, i s¹ one u ywane automatycznie podczas ewaluacji zapytania. Dziêki temu administrator bazy danych mo e dowolnie generowaæ nowe indeksy i usuwaæ istniej¹ce bez koniecznoœci dokonywania zmian w aplikacji.

6 1568 Kamil Kuliberda, Tomasz M. Kowalski, Jacek Wiœlicki, Rados³aw Adamus, Micha³ Meina Informacja o indeksach dostêpnych w lokalnych sk³adach danych nie musi byæ dostêpna na poziomie globalnego schematu. Zapytanie u ytkownika gridu podczas procesu przepisywania w wielu przypadkach mo e byæ dekomponowane na podzapytania i wys³ane do poszczególnych udzia³owców gridu. Takie podzapytanie odnosi siê jedynie do lokalnych danych i podczas jego ewaluacji mo e byæ optymalizowane poprzez przepisywanie z wykorzystaniem lokalnego metaschematu i lokalnej puli indeksów. Istnieje wiele zalet stosowania strategii lokalnych indeksów w œrodowisku rozproszonym, m.in.: dane i indeksy s¹ sk³adowane w jednym miejscu wiêc wymagane s¹ tylko lokalne metody zachowania spójnoœci miêdzy nimi; globalna optymalizacja zapytania jest podzielona miêdzy u ytkowników gridu na poziomie globalnym i lokalnym; globalny optymalizator nie musi braæ pod uwagê lokalnej optymalizacji, a z drugiej strony lokalna indeksacja dokonuje siê niezale nie od globalnej infrastruktury. Z racji tego, e lokalne indeksowanie nie zawsze jest w stanie zapewniæ najefektywniejszej mocy obliczeniowej gridu stosujemy dodatkowo globaln¹ strukturê indeksuj¹c¹. SDDS jest skalowanym rozproszonym indeksem zaprezentowanym w [4]. SDDS sk³aduje pozycje indeksu w pliku rozproszonym w sieci. W³aœciwoœci SDDS czyni¹ z niego dobr¹ technikê do indeksowania lokalnych b¹dÿ globalnych zasobów w systemie gridowym. SDDS wykorzystuje LH*, które jest uogólnieniem techniki liniowego haszowania do wykorzystania z pamiêci¹ rozproszon¹ b¹dÿ plikami na dysku. Zastosowanie SDDS wprowadza nastêpuj¹ce w³aœciwoœci do rozproszonego indeksu: decentralizacjê; umo liwia równoleg³¹ i rozproszon¹ ewaluacjê zapytañ; udostêpnia przezroczystoœæ wspó³bie noœci; skalowalnoœæ nie zak³ada adnych ograniczeñ na swój rozmiar b¹dÿ pojemnoœæ; plik SDDS rozprzestrzenia siê na nowe serwery, jeœli optymalne obci¹ enie aktualnego serwera zosta³o przekroczone; aktualizacja indeksu nie wymaga odœwie enia danych na wszystkich serwerach i klientach; niedu y nak³ad transferu w sieci w ogólnoœci niewielk¹ iloœæ wiadomoœci wymienianymi miêdzy serwerami (jedn¹ dla losowej operacji dodania i dwie dla wyszukiwania po kluczu) Wszystkie te cechy wskazuj¹, e SDDS przewy sza efektywnoœci¹ indeks scentralizowany lub jak¹kolwiek inn¹ statyczn¹ strukturê st¹d planowana jest jego implementacja w aktualnie projektowanym prototypie systemu gridowego [1, 2, 3]. Integracja rozproszonych zasobów w postaæ gridu, w sposób przedstawiony w nastêpnym rozdziale wymaga optymalizacji z racji du ej iloœci danych poddawanych procesowaniu. Tak jak zosta³o pokazane w [5], efektywne metody optymalizacyjne mog¹ zostaæ ³atwo

7 Integracja oraz indeksowanie rozproszonych zasobów danych w technologii data grid 1569 wprowadzone dziêki podejœciu stosowemu. Indeksowanie odgrywa bardzo istotn¹ rolê w optymalizacji zapytañ ponad globalnym schematem, dziêki czemu mo e z ³atwoœci¹ zmniejszyæ obci¹ enie ca³ego systemu gridowego. 5. Techniki optymalizacji przetwarzania zdalnych obiektów w ramach platformy transportowej oparte o indeksowanie W tym rozdziale omówiona jest opracowana przez autorów technika ulotnego indeksowania. Polega ona na podstawowych elementach architektury systemu indeksowania, tj. optymalizatora stosuj¹cego indeksy i modu³u zarz¹dzania indeksami, z wy³¹czeniem automatycznej aktualizacji indeksu, której osi¹gniecie w heterogenicznym, rozproszonym œrodowisku wirtualnego repozytorium jest bardzo trudnym zadaniem, a nawet w praktyce czêsto niemo - liwym. Pominiêcie mechanizmów automatycznej aktualizacji indeksu jest mo liwe, gdy w odró nieniu od normalnych indeksów ulotny indeks jest materializowany podczas wykonywania zapytania. Dziêki takiemu podejœciu mo na tê technikê stosowaæ do danych wirtualnie udostêpnionych przez perspektywy SBQL, tak e do zasobów wirtualnego repozytorium. Opracowana technika jest skuteczna w przetwarzaniu z³o onych zapytañ, w których indeks jest wywo³ywany wiêcej ni jeden raz. Taka sytuacja jest przedstawiona na rysunku 2. Optymalizowane wyra enie where powinno znajdowaæ siê po prawej stronie operatora nie-algebraicznego, którego lewe podwyra enie zwraca kolekcjê. Przedmiot selekcji powinien byæ niezale nym zapytaniem, a wartoœci predykatów selekcji zale ne od wspomnianego operatora. Regu³y te stanowi¹ metodykê warunkuj¹c¹ stosowanie ulotnego indeksu. Rys. 2. Drzewo zapytania podatnego na zastosowanie ulotnego indeksu Najwa niejsza cecha odró niaj¹ca ulotny indeks od normalnego indeksu dotyczy ograniczeñ na definicjê wartoœci niekluczowych. Regularne indeksy mog¹ byæ zak³adane tylko na kolekcjach obiektów okreœlonych przez proste wyra enia œcie kowe. Takie ograniczenie jest spowodowane mo liwoœciami mechanizmu automatycznej aktualizacji indek-

8 1570 Kamil Kuliberda, Tomasz M. Kowalski, Jacek Wiœlicki, Rados³aw Adamus, Micha³ Meina su, wiêc nie dotyczy ono techniki ulotnego indeksowania. Definicja wartoœci niekluczowej ulotnego indeksu mo e byæ dowolnym wyra eniem zwracaj¹cym: referencje zdalnych obiektów, wirtualne obiekty (okreœlone przez perspektywy), zdalne obiekty w ramach platformy transportowej, bindery i litera³y. Podstawowym za³o eniem dotycz¹cym definicji klucza i wartoœci niekluczowych jest determinizm, tj. e wartoœci niekluczowe i kluczowe pozostaj¹ niezmienne dopóki dane u yte do ich wyznaczenia siê nie zmieni¹. Znacz¹c¹ zalet¹ techniki ulotnego indeksowania jest jej praktycznoœæ z punktu widzenia integracji, rozproszonych i heterogenicznych zasobów w ramach wirtualnego repozytorium. 6. Wnioski W niniejszym artykule zosta³y zaprezentowane wyniki pracy dotycz¹cej integracji oraz indeksowania rozproszonych obiektów w gridowej obiektowej bazie danych w ramach wirtualnego repozytorium i architektury data grid. W artykule przedstawiono model gridu baz danych w jakim wykorzystano prezentowane podejœcie do indeksowania danych, szczegó³y podejœæ do indeksowania rozproszonego oraz nowatorsk¹ technikê ulotnego indeksowania danych rozproszonych, która zosta³a zaimplementowana w ca³oœci, a jej dzia³anie potwierdzone testami. Literatura [1] Habela P., Kaczmarski K., Kozankiewicz H., Lentner M., Stencel K., Subieta K., Data-Intensive Grid Computing Based on Updateable Views. ICS PAS Report 974, June [2] Kozankiewicz H., Stencel K., Subieta K., Implementation of Federated Databases through Updateable Views. Proc. EGC 2005 European Grid Conference, Springer LNCS, [3] Kozankiewicz H., Stencel K., Subieta K., Integration of Heterogeneous Resources through Updatable Views. ETNGRID2004 WETICE2004, Proceedings published by IEEE. [4] Litwin W., Nejmat M.A., Schneider D.A., LH*: Scalable, Distributed Database System. ACM Trans. Database Syst., 21(4), 1996, [5] Plodzien J., Optimization Methods in Object Query Languages. IPIPAN, Warszawa, 2000 (Ph.D. Thesis). [6] Project JXTA Community: (home-page). [7] Subieta K., Stack-Based Approach (SBA) and Stack-Based Query Language (SBQL). ipipan.waw.pl/~subieta, Description of SBA and SBQL, [8] Subieta K., Theory and Construction of Object-Oriented Query Languages. Editors of the Polish- -Japanese Institute of Information Technology, 2004 (in Polish). [9] Kozankiewicz H., Updateable Object Views. PhD Thesis, 2005, -> Finished PhD-s -> Hanna Kozankiewicz. [10] Lentner M., Subieta K., ODRA: A Next Generation Object-Oriented Environment for Rapid Database Application Development. pdf, 2006.