Uogólnione drzewa Humana

Transkrypt

1 czyli ang. lopsided trees Seminarium Algorytmika 2009/2010

2 Plan prezentacji Sformuªowanie 1 Sformuªowanie problemów Wyj±ciowy problem Problem uogólniony 2 3 Modykacje problemu Zastosowania

3 Plan prezentacji Sformuªowanie Wyj±ciowy problem Problem uogólniony 1 Sformuªowanie problemów Wyj±ciowy problem Problem uogólniony 2 3 Modykacje problemu Zastosowania

4 Kod preksowy Sformuªowanie Wyj±ciowy problem Problem uogólniony Kod Funkcja h : S W + gdzie S = {s 1,...,s n } jest zbiorem symboli do zakodowania, natomiast W = {w 1,...,w r } to alfabet, przy pomocy którego kodujemy. Kod preksowy (czy raczej bezpreksowy) aden symbol nie jest kodowany jako preks drugiego: s,s S,α W + h(s)α h(s ) Ka»de kodowanie preksowe jest jednoznaczne. Nie ka»de jednoznaczne kodowanie jest preksowe: Np. kodowanie bezsuksowe: S = {a,b},w = {0,1},h(a) = 0,h(b) = 01

5 Kod preksowy Sformuªowanie Wyj±ciowy problem Problem uogólniony Kod Funkcja h : S W + gdzie S = {s 1,...,s n } jest zbiorem symboli do zakodowania, natomiast W = {w 1,...,w r } to alfabet, przy pomocy którego kodujemy. Kod preksowy (czy raczej bezpreksowy) aden symbol nie jest kodowany jako preks drugiego: s,s S,α W + h(s)α h(s ) Ka»de kodowanie preksowe jest jednoznaczne. Nie ka»de jednoznaczne kodowanie jest preksowe: Np. kodowanie bezsuksowe: S = {a,b},w = {0,1},h(a) = 0,h(b) = 01

6 Kod preksowy Sformuªowanie Wyj±ciowy problem Problem uogólniony Kod Funkcja h : S W + gdzie S = {s 1,...,s n } jest zbiorem symboli do zakodowania, natomiast W = {w 1,...,w r } to alfabet, przy pomocy którego kodujemy. Kod preksowy (czy raczej bezpreksowy) aden symbol nie jest kodowany jako preks drugiego: s,s S,α W + h(s)α h(s ) Ka»de kodowanie preksowe jest jednoznaczne. Nie ka»de jednoznaczne kodowanie jest preksowe: Np. kodowanie bezsuksowe: S = {a,b},w = {0,1},h(a) = 0,h(b) = 01

7 Kod preksowy Sformuªowanie Wyj±ciowy problem Problem uogólniony Kod Funkcja h : S W + gdzie S = {s 1,...,s n } jest zbiorem symboli do zakodowania, natomiast W = {w 1,...,w r } to alfabet, przy pomocy którego kodujemy. Kod preksowy (czy raczej bezpreksowy) aden symbol nie jest kodowany jako preks drugiego: s,s S,α W + h(s)α h(s ) Ka»de kodowanie preksowe jest jednoznaczne. Nie ka»de jednoznaczne kodowanie jest preksowe: Np. kodowanie bezsuksowe: S = {a,b},w = {0,1},h(a) = 0,h(b) = 01

8 Kod jako drzewo Sformuªowanie Wyj±ciowy problem Problem uogólniony Kod preksowy najªatwiej przedstawi jako drzewo: Kraw dzie odpowiadaj symbolom alfabetu. Li±cie odpowiadaj ci gom koduj cym Nieco niedydaktyczny przykªad:

9 Problem optymalnego kodu Wyj±ciowy problem Problem uogólniony Prawdopodobie«stwo wyst powania symboli Z ka»dym symbolem s S dodatkowo wi»emy prawdopodobie«stwo p(s) [0, 1] jego wyst pienia na wej±ciu. Funkcja kosztu Dªugo± ±cie»ki zewn trznej (ang. external path) drzewa kodu: Koszt(h) = Eh(s) = Σ s S h(s) p(s) Poszukujemy kodu o minimalnym koszcie.

10 Problem optymalnego kodu Wyj±ciowy problem Problem uogólniony Prawdopodobie«stwo wyst powania symboli Z ka»dym symbolem s S dodatkowo wi»emy prawdopodobie«stwo p(s) [0, 1] jego wyst pienia na wej±ciu. Funkcja kosztu Dªugo± ±cie»ki zewn trznej (ang. external path) drzewa kodu: Koszt(h) = Eh(s) = Σ s S h(s) p(s) Poszukujemy kodu o minimalnym koszcie.

11 Problem optymalnego kodu Wyj±ciowy problem Problem uogólniony Tak sformuªowany problem jest prosty: algorytm Humana. Podstawowa wersja dziaªa dla W = 2, ale mo»na uogólni. Dlaczego to jest ªatwe? Maj c dany zbiór ci gów koduj cych wiemy jak optymalnie przypisa je do symboli. Wiemy,»e dwa najdªu»sze ci gi koduj ce maj ten sam koszt - mo»emy skleja.

12 Problem optymalnego kodu Wyj±ciowy problem Problem uogólniony Tak sformuªowany problem jest prosty: algorytm Humana. Podstawowa wersja dziaªa dla W = 2, ale mo»na uogólni. Dlaczego to jest ªatwe? Maj c dany zbiór ci gów koduj cych wiemy jak optymalnie przypisa je do symboli. Wiemy,»e dwa najdªu»sze ci gi koduj ce maj ten sam koszt - mo»emy skleja.

13 Problem optymalnego kodu Wyj±ciowy problem Problem uogólniony Tak sformuªowany problem jest prosty: algorytm Humana. Podstawowa wersja dziaªa dla W = 2, ale mo»na uogólni. Dlaczego to jest ªatwe? Maj c dany zbiór ci gów koduj cych wiemy jak optymalnie przypisa je do symboli. Wiemy,»e dwa najdªu»sze ci gi koduj ce maj ten sam koszt - mo»emy skleja.

14 Problem optymalnego kodu Wyj±ciowy problem Problem uogólniony Tak sformuªowany problem jest prosty: algorytm Humana. Podstawowa wersja dziaªa dla W = 2, ale mo»na uogólni. Dlaczego to jest ªatwe? Maj c dany zbiór ci gów koduj cych wiemy jak optymalnie przypisa je do symboli. Wiemy,»e dwa najdªu»sze ci gi koduj ce maj ten sam koszt - mo»emy skleja.

15 Problem optymalnego kodu Wyj±ciowy problem Problem uogólniony Tak sformuªowany problem jest prosty: algorytm Humana. Podstawowa wersja dziaªa dla W = 2, ale mo»na uogólni. Dlaczego to jest ªatwe? Maj c dany zbiór ci gów koduj cych wiemy jak optymalnie przypisa je do symboli. Wiemy,»e dwa najdªu»sze ci gi koduj ce maj ten sam koszt - mo»emy skleja.

16 Plan prezentacji Sformuªowanie Wyj±ciowy problem Problem uogólniony 1 Sformuªowanie problemów Wyj±ciowy problem Problem uogólniony 2 3 Modykacje problemu Zastosowania

17 Sformuªowanie problemu Wyj±ciowy problem Problem uogólniony Nierówne koszty liter alfabetu Koszt litery w oznaczamy jako length(w) N. Nowa funkcja kosztu Koszt(h) = Σ s S length(h(s))p(s)

18 Sformuªowanie problemu Wyj±ciowy problem Problem uogólniony Nierówne koszty liter alfabetu Koszt litery w oznaczamy jako length(w) N. Nowa funkcja kosztu Koszt(h) = Σ s S length(h(s))p(s)

19 Wªasno±ci uogólnionego problemu Wyj±ciowy problem Problem uogólniony Co wiadomo o problemie? Niewiele: nie wiemy, czy jest NP-zupeªny, nie znamy algorytmu wielomianowego. Rozwi zanie wielomianowe dla równych p(s) (tzw. problem Varn codes). Rozwi zania wykªadnicze dla przypadku length(w i ) N (wykªadnik zale»ny tylko od kosztu liter). Schemat aproksymacyjny PTAS.

20 Wªasno±ci uogólnionego problemu Wyj±ciowy problem Problem uogólniony Co wiadomo o problemie? Niewiele: nie wiemy, czy jest NP-zupeªny, nie znamy algorytmu wielomianowego. Rozwi zanie wielomianowe dla równych p(s) (tzw. problem Varn codes). Rozwi zania wykªadnicze dla przypadku length(w i ) N (wykªadnik zale»ny tylko od kosztu liter). Schemat aproksymacyjny PTAS.

21 Wªasno±ci uogólnionego problemu Wyj±ciowy problem Problem uogólniony Co wiadomo o problemie? Niewiele: nie wiemy, czy jest NP-zupeªny, nie znamy algorytmu wielomianowego. Rozwi zanie wielomianowe dla równych p(s) (tzw. problem Varn codes). Rozwi zania wykªadnicze dla przypadku length(w i ) N (wykªadnik zale»ny tylko od kosztu liter). Schemat aproksymacyjny PTAS.

22 Wªasno±ci uogólnionego problemu Wyj±ciowy problem Problem uogólniony Co wiadomo o problemie? Niewiele: nie wiemy, czy jest NP-zupeªny, nie znamy algorytmu wielomianowego. Rozwi zanie wielomianowe dla równych p(s) (tzw. problem Varn codes). Rozwi zania wykªadnicze dla przypadku length(w i ) N (wykªadnik zale»ny tylko od kosztu liter). Schemat aproksymacyjny PTAS.

23 Plan prezentacji Sformuªowanie 1 Sformuªowanie problemów Wyj±ciowy problem Problem uogólniony 2 3 Modykacje problemu Zastosowania

24 Algorytm naiwny Sformuªowanie Pomysª 1 Nie dziaªa metoda bottom-up, wi c u»yjemy metody top-down. Przeszukujemy dynamicznie przestrze«wszystkich drzew kodów preksowych. Dokªadamy kolejne kraw dzie do li±ci drzew. Problem: wykªadnik w zªo»ono±ci b dzie zale»ny od n oraz r.

25 Algorytm naiwny Sformuªowanie Pomysª 1 Nie dziaªa metoda bottom-up, wi c u»yjemy metody top-down. Przeszukujemy dynamicznie przestrze«wszystkich drzew kodów preksowych. Dokªadamy kolejne kraw dzie do li±ci drzew. Problem: wykªadnik w zªo»ono±ci b dzie zale»ny od n oraz r.

26 Algorytm naiwny Sformuªowanie Pomysª 1 Nie dziaªa metoda bottom-up, wi c u»yjemy metody top-down. Przeszukujemy dynamicznie przestrze«wszystkich drzew kodów preksowych. Dokªadamy kolejne kraw dzie do li±ci drzew. Problem: wykªadnik w zªo»ono±ci b dzie zale»ny od n oraz r.

27 Algorytm prawie naiwny Pomysª 2 Wystarczy rozpatrywa drzewa z peªnymi wierzchoªkami wewn trznymi. Dodajemy sztuczne symbole z prawdopodobie«stwem wyst pienia p(s) = 0.

28 Algorytm prawie naiwny Pomysª 2 Wystarczy rozpatrywa drzewa z peªnymi wierzchoªkami wewn trznymi. Dodajemy sztuczne symbole z prawdopodobie«stwem wyst pienia p(s) = 0.

29 Algorytm O(n C+2 ) Sformuªowanie Pomysª 3 Wystarczy pami ta liczb wierzchoªków na poszczególnych poziomach, zamiast struktury drzewa. Pomysª 4 Mo»emy rozwija li±cie w kolejno±ci rosn cego length(s). Wystarczy tylko pami ta : Liczb wierzchoªków na ostatnich C poziomach Liczb pozostaªych wierzchoªków.

30 Algorytm O(n C+2 ) Sformuªowanie Pomysª 3 Wystarczy pami ta liczb wierzchoªków na poszczególnych poziomach, zamiast struktury drzewa. Pomysª 4 Mo»emy rozwija li±cie w kolejno±ci rosn cego length(s). Wystarczy tylko pami ta : Liczb wierzchoªków na ostatnich C poziomach Liczb pozostaªych wierzchoªków.

31 Algorytm O(n C+2 ) Sformuªowanie Pomysª 3 Wystarczy pami ta liczb wierzchoªków na poszczególnych poziomach, zamiast struktury drzewa. Pomysª 4 Mo»emy rozwija li±cie w kolejno±ci rosn cego length(s). Wystarczy tylko pami ta : Liczb wierzchoªków na ostatnich C poziomach Liczb pozostaªych wierzchoªków.

32 Algorytm O(n C+2 ), c.d. Pozostaje m drze zdeniowa funkcj kosztu. Koszt drzewa Koszt(m;l 1,...,l C ) = Σ m i=1 length(v i)p(s i ) + L Σ n i=m+1 p(s i) Obcinamy drzewo na poziomie L. Liczymy sum dªugo±ci cz ±ci ±cie»ek do li±ci do poziomu L wª cznie. Koszt kraw dzi Niech T = (m;l 1,...,l C ) oraz T = T z rozwini tymi q wierzchoªkami na poziomie l 1 Koszt(T,T ) = Koszt(T ) Koszt(T ) = Σ n i=m+1 p(s i)

33 Algorytm O(n C+2 ), c.d. Pozostaje m drze zdeniowa funkcj kosztu. Koszt drzewa Koszt(m;l 1,...,l C ) = Σ m i=1 length(v i)p(s i ) + L Σ n i=m+1 p(s i) Obcinamy drzewo na poziomie L. Liczymy sum dªugo±ci cz ±ci ±cie»ek do li±ci do poziomu L wª cznie. Koszt kraw dzi Niech T = (m;l 1,...,l C ) oraz T = T z rozwini tymi q wierzchoªkami na poziomie l 1 Koszt(T,T ) = Koszt(T ) Koszt(T ) = Σ n i=m+1 p(s i)

34 Algorytm O(n C+2 ), c.d. Pozostaje m drze zdeniowa funkcj kosztu. Koszt drzewa Koszt(m;l 1,...,l C ) = Σ m i=1 length(v i)p(s i ) + L Σ n i=m+1 p(s i) Obcinamy drzewo na poziomie L. Liczymy sum dªugo±ci cz ±ci ±cie»ek do li±ci do poziomu L wª cznie. Koszt kraw dzi Niech T = (m;l 1,...,l C ) oraz T = T z rozwini tymi q wierzchoªkami na poziomie l 1 Koszt(T,T ) = Koszt(T ) Koszt(T ) = Σ n i=m+1 p(s i)

35 Algorytm O(n C+2 ), c.d. Pozostaje m drze zdeniowa funkcj kosztu. Koszt drzewa Koszt(m;l 1,...,l C ) = Σ m i=1 length(v i)p(s i ) + L Σ n i=m+1 p(s i) Obcinamy drzewo na poziomie L. Liczymy sum dªugo±ci cz ±ci ±cie»ek do li±ci do poziomu L wª cznie. Koszt kraw dzi Niech T = (m;l 1,...,l C ) oraz T = T z rozwini tymi q wierzchoªkami na poziomie l 1 Koszt(T,T ) = Koszt(T ) Koszt(T ) = Σ n i=m+1 p(s i)

36 Analiza zªo»ono±ci Sformuªowanie Wszystkich stanów, jest O(n C+1 ). Przetworzenie pojedynczego stanu wymaga rozpatrzenia n + 1 mo»liwych jego rozwini. Po przemno»eniu otrzymujemy O(n C+2 ).

37 Analiza zªo»ono±ci Sformuªowanie Wszystkich stanów, jest O(n C+1 ). Przetworzenie pojedynczego stanu wymaga rozpatrzenia n + 1 mo»liwych jego rozwini. Po przemno»eniu otrzymujemy O(n C+2 ).

38 Analiza zªo»ono±ci Sformuªowanie Wszystkich stanów, jest O(n C+1 ). Przetworzenie pojedynczego stanu wymaga rozpatrzenia n + 1 mo»liwych jego rozwini. Po przemno»eniu otrzymujemy O(n C+2 ).

39 Algorytm O(n C+1 ) dla W = 2 Pomysª 1 Oznaczenia: length(w 1 ) = α, length(w 2 ) = β. Chcemy zmniejszy liczb wymiarów przestrzeni, któr b dziemy przeszukiwali. Pomysª 2 Wracamy do konstrukcji bottom-up. Denicja Przez ci g charakterystyczny drzewa kodu rozumiemy: B(T ) i = b i = {v V : depth(v) i v jest prawym synem}

40 Algorytm O(n C+1 ) dla W = 2 Pomysª 1 Oznaczenia: length(w 1 ) = α, length(w 2 ) = β. Chcemy zmniejszy liczb wymiarów przestrzeni, któr b dziemy przeszukiwali. Pomysª 2 Wracamy do konstrukcji bottom-up. Denicja Przez ci g charakterystyczny drzewa kodu rozumiemy: B(T ) i = b i = {v V : depth(v) i v jest prawym synem}

41 Algorytm O(n C+1 ) dla W = 2 Pomysª 1 Oznaczenia: length(w 1 ) = α, length(w 2 ) = β. Chcemy zmniejszy liczb wymiarów przestrzeni, któr b dziemy przeszukiwali. Pomysª 2 Wracamy do konstrukcji bottom-up. Denicja Przez ci g charakterystyczny drzewa kodu rozumiemy: B(T ) i = b i = {v V : depth(v) i v jest prawym synem}

42 Algorytm O(n C+1 ) dla W = 2 Ile informacji da si wyci gn z takiego ci gu? Znamy najgª bszy wierzchoªek Mo»emy obliczy indeks jego brata w drzewie: b β α 1 + 1

43 Algorytm O(n C+1 ) dla W = 2 Ile informacji da si wyci gn z takiego ci gu? Znamy najgª bszy wierzchoªek Mo»emy obliczy indeks jego brata w drzewie: b β α 1 + 1

44 Algorytm O(n C+1 ) dla W = 2 Ile informacji da si wyci gn z takiego ci gu? Znamy najgª bszy wierzchoªek Mo»emy obliczy indeks jego brata w drzewie: b β α 1 + 1

45 Algorytm O(n C+1 ) dla W = 2 Mo»emy równie» wyznaczy liczb li±ci poni»ej pewnego poziomu: N i = b i + b i (β α) b i β

46 Algorytm O(n C+1 ) dla W = 2 Mo»emy równie» wyznaczy liczb li±ci poni»ej pewnego poziomu: N i = b i + b i (β α) b i β

47 Algorytm O(n C+1 ) dla W = 2 Dowód: #li±ci = #drzew + #wierzchoªków wewn trznych #wierzchoªków wewn trznych = b i β #drzew = #korzeni = #korzeni b d cych lewymi synami + #korzeni b d cych prawymi synami = (b i b i β ) + (b i (β α) b i β ). #li±ci = b i β + (b i b i β ) + (b i (β α) b i β ) = b i + b i (β α) b i β

48 Algorytm O(n C+1 ) dla W = 2 Dowód: #li±ci = #drzew + #wierzchoªków wewn trznych #wierzchoªków wewn trznych = b i β #drzew = #korzeni = #korzeni b d cych lewymi synami + #korzeni b d cych prawymi synami = (b i b i β ) + (b i (β α) b i β ). #li±ci = b i β + (b i b i β ) + (b i (β α) b i β ) = b i + b i (β α) b i β

49 Algorytm O(n C+1 ) dla W = 2 Dowód: #li±ci = #drzew + #wierzchoªków wewn trznych #wierzchoªków wewn trznych = b i β #drzew = #korzeni = #korzeni b d cych lewymi synami + #korzeni b d cych prawymi synami = (b i b i β ) + (b i (β α) b i β ). #li±ci = b i β + (b i b i β ) + (b i (β α) b i β ) = b i + b i (β α) b i β

50 Algorytm O(n C+1 ) dla W = 2 Dowód: #li±ci = #drzew + #wierzchoªków wewn trznych #wierzchoªków wewn trznych = b i β #drzew = #korzeni = #korzeni b d cych lewymi synami + #korzeni b d cych prawymi synami = (b i b i β ) + (b i (β α) b i β ). #li±ci = b i β + (b i b i β ) + (b i (β α) b i β ) = b i + b i (β α) b i β

51 Algorytm O(n C+1 ) dla W = 2 Dowód: #li±ci = #drzew + #wierzchoªków wewn trznych #wierzchoªków wewn trznych = b i β #drzew = #korzeni = #korzeni b d cych lewymi synami + #korzeni b d cych prawymi synami = (b i b i β ) + (b i (β α) b i β ). #li±ci = b i β + (b i b i β ) + (b i (β α) b i β ) = b i + b i (β α) b i β

52 Algorytm O(n C+1 ) dla W = 2 Koszt ci gu charakterystycznego Koszt(B) = Σ d 1 i=0 ΣN i j=0 p j Mo»na pokaza,»e koszt drzewa oraz koszt ci gu charakterystycznego odpowiadaj cego temu drzewu s sobie równe.

53 Algorytm O(n C+1 ) dla W = 2 Koszt ci gu charakterystycznego Koszt(B) = Σ d 1 i=0 ΣN i j=0 p j Mo»na pokaza,»e koszt drzewa oraz koszt ci gu charakterystycznego odpowiadaj cego temu drzewu s sobie równe.

54 Algorytm O(n C+1 ) dla W = 2 Denicja Ci g charakterystyczny jest legalny, gdy istnieje jakie± odpowiadaj ce mu drzewo. Problem: nie ka»dy ci g jest legalny. Mo»na pokaza,»e dla ci gu charakterystycznego optymalnego o pewnym koszcie, istnieje inny ci g charakterystyczny o tym samym koszcie, który jest legalny. Uwaga: nie oznacza to,»e ka»dy ci g optymalny jest legalny! Dowód: indukcyjny. Korzystamy ze sklejania pary najni»szych synów.

55 Algorytm O(n C+1 ) dla W = 2 Denicja Ci g charakterystyczny jest legalny, gdy istnieje jakie± odpowiadaj ce mu drzewo. Problem: nie ka»dy ci g jest legalny. Mo»na pokaza,»e dla ci gu charakterystycznego optymalnego o pewnym koszcie, istnieje inny ci g charakterystyczny o tym samym koszcie, który jest legalny. Uwaga: nie oznacza to,»e ka»dy ci g optymalny jest legalny! Dowód: indukcyjny. Korzystamy ze sklejania pary najni»szych synów.

56 Algorytm O(n C+1 ) dla W = 2 Denicja Ci g charakterystyczny jest legalny, gdy istnieje jakie± odpowiadaj ce mu drzewo. Problem: nie ka»dy ci g jest legalny. Mo»na pokaza,»e dla ci gu charakterystycznego optymalnego o pewnym koszcie, istnieje inny ci g charakterystyczny o tym samym koszcie, który jest legalny. Uwaga: nie oznacza to,»e ka»dy ci g optymalny jest legalny! Dowód: indukcyjny. Korzystamy ze sklejania pary najni»szych synów.

57 Algorytm O(n C+1 ) dla W = 2 Denicja Ci g charakterystyczny jest legalny, gdy istnieje jakie± odpowiadaj ce mu drzewo. Problem: nie ka»dy ci g jest legalny. Mo»na pokaza,»e dla ci gu charakterystycznego optymalnego o pewnym koszcie, istnieje inny ci g charakterystyczny o tym samym koszcie, który jest legalny. Uwaga: nie oznacza to,»e ka»dy ci g optymalny jest legalny! Dowód: indukcyjny. Korzystamy ze sklejania pary najni»szych synów.

58 Algorytm O(n C+1 ) dla W = 2 Denicja Ci g charakterystyczny jest legalny, gdy istnieje jakie± odpowiadaj ce mu drzewo. Problem: nie ka»dy ci g jest legalny. Mo»na pokaza,»e dla ci gu charakterystycznego optymalnego o pewnym koszcie, istnieje inny ci g charakterystyczny o tym samym koszcie, który jest legalny. Uwaga: nie oznacza to,»e ka»dy ci g optymalny jest legalny! Dowód: indukcyjny. Korzystamy ze sklejania pary najni»szych synów.

59 Algorytm O(n C+1 ) dla W = 2 Denicja Ci g charakterystyczny jest legalny, gdy istnieje jakie± odpowiadaj ce mu drzewo. Problem: nie ka»dy ci g jest legalny. Mo»na pokaza,»e dla ci gu charakterystycznego optymalnego o pewnym koszcie, istnieje inny ci g charakterystyczny o tym samym koszcie, który jest legalny. Uwaga: nie oznacza to,»e ka»dy ci g optymalny jest legalny! Dowód: indukcyjny. Korzystamy ze sklejania pary najni»szych synów.

60 Algorytm O(n C+1 ) dla W = 2 Przestrze«stanów β -krotki reprezentuj ce β ostatnich elementów ci gu charakterystycznego. Kraw dzie Kraw dzie prowadzimy mi dzy stanami postaci (i 0,...,i β 1 ) oraz (i 1,...,i β ). Wagi kraw dzi Waga(u v) = Waga(i 0,...,i β ) = Σ N β k=0

61 Algorytm O(n C+1 ) dla W = 2 Przestrze«stanów β -krotki reprezentuj ce β ostatnich elementów ci gu charakterystycznego. Kraw dzie Kraw dzie prowadzimy mi dzy stanami postaci (i 0,...,i β 1 ) oraz (i 1,...,i β ). Wagi kraw dzi Waga(u v) = Waga(i 0,...,i β ) = Σ N β k=0

62 Algorytm O(n C+1 ) dla W = 2 Przestrze«stanów β -krotki reprezentuj ce β ostatnich elementów ci gu charakterystycznego. Kraw dzie Kraw dzie prowadzimy mi dzy stanami postaci (i 0,...,i β 1 ) oraz (i 1,...,i β ). Wagi kraw dzi Waga(u v) = Waga(i 0,...,i β ) = Σ N β k=0

63 Algorytm O(n C+1 ) dla W = 2 Graf jest DAG-iem. Stan (0,..., 0) jest jedynym ¹ródªem. Reprezentuje drzewa obci te poni»ej ostatniego wierzchoªka. Stan (n 1,...,n 1) jest jedynym uj±ciem. Reprezentuje wszystkie drzewa z n li± mi. Waga kraw dzi odzwierciedla koszt przesuni cia linii obci cia o jeden poziom w gór. Wniosek: najkrótsza ±cie»ka ze ¹ródªa do uj±cia jest równa kosztowi optymalnego drzewa.

64 Algorytm O(n C+1 ) dla W = 2 Graf jest DAG-iem. Stan (0,..., 0) jest jedynym ¹ródªem. Reprezentuje drzewa obci te poni»ej ostatniego wierzchoªka. Stan (n 1,...,n 1) jest jedynym uj±ciem. Reprezentuje wszystkie drzewa z n li± mi. Waga kraw dzi odzwierciedla koszt przesuni cia linii obci cia o jeden poziom w gór. Wniosek: najkrótsza ±cie»ka ze ¹ródªa do uj±cia jest równa kosztowi optymalnego drzewa.

65 Algorytm O(n C+1 ) dla W = 2 Graf jest DAG-iem. Stan (0,..., 0) jest jedynym ¹ródªem. Reprezentuje drzewa obci te poni»ej ostatniego wierzchoªka. Stan (n 1,...,n 1) jest jedynym uj±ciem. Reprezentuje wszystkie drzewa z n li± mi. Waga kraw dzi odzwierciedla koszt przesuni cia linii obci cia o jeden poziom w gór. Wniosek: najkrótsza ±cie»ka ze ¹ródªa do uj±cia jest równa kosztowi optymalnego drzewa.

66 Algorytm O(n C+1 ) dla W = 2 Graf jest DAG-iem. Stan (0,..., 0) jest jedynym ¹ródªem. Reprezentuje drzewa obci te poni»ej ostatniego wierzchoªka. Stan (n 1,...,n 1) jest jedynym uj±ciem. Reprezentuje wszystkie drzewa z n li± mi. Waga kraw dzi odzwierciedla koszt przesuni cia linii obci cia o jeden poziom w gór. Wniosek: najkrótsza ±cie»ka ze ¹ródªa do uj±cia jest równa kosztowi optymalnego drzewa.

67 Algorytm O(n C+1 ) dla W = 2 Graf jest DAG-iem. Stan (0,..., 0) jest jedynym ¹ródªem. Reprezentuje drzewa obci te poni»ej ostatniego wierzchoªka. Stan (n 1,...,n 1) jest jedynym uj±ciem. Reprezentuje wszystkie drzewa z n li± mi. Waga kraw dzi odzwierciedla koszt przesuni cia linii obci cia o jeden poziom w gór. Wniosek: najkrótsza ±cie»ka ze ¹ródªa do uj±cia jest równa kosztowi optymalnego drzewa.

68 Algorytm O(n C+1 ) dla W = 2 Analiza zªo»ono±ci: Mamy O(n C ) stanów do przeszukania. Przetworzenie pojedynczego stanu wymaga rozpatrzenia n mo»liwych kraw dzi z niego wychodzacych. Po przemno»eniu otrzymujemy O(n C+1 ).

69 Algorytm O(n C+1 ) dla W = 2 Analiza zªo»ono±ci: Mamy O(n C ) stanów do przeszukania. Przetworzenie pojedynczego stanu wymaga rozpatrzenia n mo»liwych kraw dzi z niego wychodzacych. Po przemno»eniu otrzymujemy O(n C+1 ).

70 Algorytm O(n C+1 ) dla W = 2 Analiza zªo»ono±ci: Mamy O(n C ) stanów do przeszukania. Przetworzenie pojedynczego stanu wymaga rozpatrzenia n mo»liwych kraw dzi z niego wychodzacych. Po przemno»eniu otrzymujemy O(n C+1 ).

71 Algorytm O(n C ) dla W = 2 Macierz kosztów Dla ustalonego δ = (i 1,...,i β 1 ) deniujemy macierz A δ zadan wzorem: A δ (i,j) = Waga(i,δ,j) + Koszt(i,δ) j-ty wiersz macierzy zawiera wszystkie mo»liwe koszty dotarcia do stanu (i 1,...,i β,j).

72 Algorytm O(n C ) dla W = 2 Macierz kosztów Dla ustalonego δ = (i 1,...,i β 1 ) deniujemy macierz A δ zadan wzorem: A δ (i,j) = Waga(i,δ,j) + Koszt(i,δ) j-ty wiersz macierzy zawiera wszystkie mo»liwe koszty dotarcia do stanu (i 1,...,i β,j).

73 Algorytm O(n C ) dla W = 2 Mo»na pokaza,»e macierz ma tzw. wªasno± Monge'go: A δ (i,j) + A δ (i + 1,j + 1) A δ (i + 1,j) + A δ (i,j + 1) Takie macierze maj inn wªasno±, tzw. caªkowit monotoniczno± : A δ (i,j + 1) A i+1,j+1 = A δ (i,j) A δ (i + 1,j). Dla takich macierzy dziaªa tzw. algorytm SMAWK wyznaczaj cy minima wszystkich wierszy w czasie O(n). Intuicja: pojedyncze porównanie mo»e nam da informacj na temat liniowej liczby nierówno±ci w macierzy.

74 Algorytm O(n C ) dla W = 2 Mo»na pokaza,»e macierz ma tzw. wªasno± Monge'go: A δ (i,j) + A δ (i + 1,j + 1) A δ (i + 1,j) + A δ (i,j + 1) Takie macierze maj inn wªasno±, tzw. caªkowit monotoniczno± : A δ (i,j + 1) A i+1,j+1 = A δ (i,j) A δ (i + 1,j). Dla takich macierzy dziaªa tzw. algorytm SMAWK wyznaczaj cy minima wszystkich wierszy w czasie O(n). Intuicja: pojedyncze porównanie mo»e nam da informacj na temat liniowej liczby nierówno±ci w macierzy.

75 Algorytm O(n C ) dla W = 2 Mo»na pokaza,»e macierz ma tzw. wªasno± Monge'go: A δ (i,j) + A δ (i + 1,j + 1) A δ (i + 1,j) + A δ (i,j + 1) Takie macierze maj inn wªasno±, tzw. caªkowit monotoniczno± : A δ (i,j + 1) A i+1,j+1 = A δ (i,j) A δ (i + 1,j). Dla takich macierzy dziaªa tzw. algorytm SMAWK wyznaczaj cy minima wszystkich wierszy w czasie O(n). Intuicja: pojedyncze porównanie mo»e nam da informacj na temat liniowej liczby nierówno±ci w macierzy.

76 Algorytm O(n C ) dla W = 2 Mo»na pokaza,»e macierz ma tzw. wªasno± Monge'go: A δ (i,j) + A δ (i + 1,j + 1) A δ (i + 1,j) + A δ (i,j + 1) Takie macierze maj inn wªasno±, tzw. caªkowit monotoniczno± : A δ (i,j + 1) A i+1,j+1 = A δ (i,j) A δ (i + 1,j). Dla takich macierzy dziaªa tzw. algorytm SMAWK wyznaczaj cy minima wszystkich wierszy w czasie O(n). Intuicja: pojedyncze porównanie mo»e nam da informacj na temat liniowej liczby nierówno±ci w macierzy.

77 Plan prezentacji Sformuªowanie Modykacje problemu Zastosowania 1 Sformuªowanie problemów Wyj±ciowy problem Problem uogólniony 2 3 Modykacje problemu Zastosowania

78 Modykacje Sformuªowanie Modykacje problemu Zastosowania Ograniczenie wysoko±ci drzewa. Wymóg, aby symbole byªy kodowane za pomoc sªów z zadanego j zyka regularnego.

79 Modykacje Sformuªowanie Modykacje problemu Zastosowania Ograniczenie wysoko±ci drzewa. Wymóg, aby symbole byªy kodowane za pomoc sªów z zadanego j zyka regularnego.

80 Plan prezentacji Sformuªowanie Modykacje problemu Zastosowania 1 Sformuªowanie problemów Wyj±ciowy problem Problem uogólniony 2 3 Modykacje problemu Zastosowania

81 Zastosowania Sformuªowanie Modykacje problemu Zastosowania No±niki zyczne, w których z powodów technologicznych ogranicze«ka»dy bit 1 musi by poprzedzony co najmniej a zerami i co najwy»ej b bitami 0. Alfabet Morse'a: length( ) = 1, length( ) = 2. Drzewa decyzyjne, w którym podj cie ró»nych decyzji wi»e si z ró»nym kosztem.

82 Zastosowania Sformuªowanie Modykacje problemu Zastosowania No±niki zyczne, w których z powodów technologicznych ogranicze«ka»dy bit 1 musi by poprzedzony co najmniej a zerami i co najwy»ej b bitami 0. Alfabet Morse'a: length( ) = 1, length( ) = 2. Drzewa decyzyjne, w którym podj cie ró»nych decyzji wi»e si z ró»nym kosztem.

83 Zastosowania Sformuªowanie Modykacje problemu Zastosowania No±niki zyczne, w których z powodów technologicznych ogranicze«ka»dy bit 1 musi by poprzedzony co najmniej a zerami i co najwy»ej b bitami 0. Alfabet Morse'a: length( ) = 1, length( ) = 2. Drzewa decyzyjne, w którym podj cie ró»nych decyzji wi»e si z ró»nym kosztem.

84 Dodatek ródªa ródªa I Mordecai J. Golin, Günter Rote, A Dynamic Programming Algorithm for Constructing Optimal Prex-Free Codes for Unequal Letter Costs, IEEE Transactions on Information Theory, 1998 Phil Bradford, Mordecai J. Golin, Lawrence L. Larmore, Wojciech Rytter, Optimal Prex-Free Codes for Unequal Letter Costs and Dynamic Programming with the Monge Property, Journal of Algorithms, 2000 Vicky Choi, Mordecai J. Golin, Lopsided Trees: Analyses, Algorithms, and Applications, in Automata, Languages and Programming, Proceedings of the 23rd International Colloquium on Automata, Languages, and Programming (ICALP), 2000