1. Analiza algorytmów przypomnienie

Transkrypt

1 1. Analiza algorytmów przypomnienie T.H. Cormen, C.E. Leiserson, R.L. Rivest, C. Stein Wprowadzenie do algorytmów, rozdziały 1-4 Wydawnictwa naukowo-techniczne (2004) Jak mierzyć efektywność algorytmu? Przyjęcie modelu obliczeniowego (np. RAM). Ustalenie rozmiaru wejścia. Ustalenie liczby operacji (instrukcji) podstawowych; zdefiniowanie operacji podstawowych. Ustalenie minimalnej potrzebnej liczby komórek pamięci; odniesienie do zastosowanych struktur danych.

2 Rozmiar wejścia W formalnym modelu (np. maszyna Turinga) rozmiar wejścia zdefiniowany jest jako długość napisu wejściowego nad skończonym alfabetem. Dla jednej zmiennej n N przyjmuje się liczbę bitów log 2 n +1. Dla ustalonej liczby k zmiennych n 1,...,n k przyjmuje się ich sumę długości, czyli k 1 (log 2n i +1); np. w algorytmie Euklidesa rozmiar wejścia to log 2 m + log 2 n +2. Dla wektora n-elementowego przyjmujemy liczbę elementów, czyli n. Dla tablicy wielowymiarowej przyjmujemy największy z jej wymiarów; np. dla tablicy TAB[ ][ ] rozmiarem wejścia jest 1000.

3 Szacowanie tempa wzrostu Symbol O( ): h: N R + ; klasa O(h) = {g: N R +, gdzie c>0 n0 N n n0 g(n) c h(n)}; g O(h) oznacza, że funkcja g rośnie nie szybciej niż funkcja h. g O(h) czytamy: g jest klasy O duże od h g O(h) czytamy: lub g jest rzędu O duże od h. Symbol Ω( ): Przykłady: f: N R + ; g(n) klasa= Ω(f) n = O(n {g: 2 ); N R +, gdzie c>0 n0 N n n0 g(n) c f(n)}; g(n) g Ω(f) = 1/noznacza, O(1); że funkcja f rośnie nie szybciej niż funkcja g. g(n) g Ω(f) = 100 n czytamy: g 100 n+100 jest klasy Omega O(n duże 2 ); od f g(n) g Ω(f) = (logn) czytamy: a O(n lub b ) g dlajest każdych rzędu a,b Omega > 0; np. duże(logn) od f O(n ). Symbole o( ),ω( ) oraz Θ( ).

4 Symbol Ω( ): f: N R + ; klasa Ω(f) = {g: N R +, gdzie c>0 n0 N n n0 g(n) c f(n)}; g Ω(f) oznacza, że funkcja f rośnie nie szybciej niż funkcja g. g Ω(f) czytamy: g jest klasy Omega duże od f g Ω(f) czytamy: lub g jest rzędu Omega duże od f. Przykłady: g(n) = n 2 Ω(n); g(n) = 1 10 Ω(1/n); g(n) = n n Ω(n 2 ); g(n) = n b Ω((logn) a ) dla każdych a,b > 0. Symbole o( ),ω( ) oraz Θ( ).

5 Czasowa złożoność obliczeniowa Operacje podstawowe: operacje arytmetyczne, logiczne oraz porównania; odczytanie, zapisanie do komórki pamięci; wywołanie funkcji, procedury. W modelu RAM koszty powyższych operacji podstawowych są jednostkowe. Dla ustalonych danych wejściowych I możemy (zazwyczaj) precyzyjnie wyznaczyć liczbę lop(i) operacji podstawowych wykonanych przez program. (Pesymistyczna) Czasowa złożoność obliczeniowa T(n) := max{lop(i) : I I(n)}, gdzie I(n) jest to zbiór wszystkich danych wejściowych o rozmiarze n. Ze względów praktycznych szuka się jak najlepszego oszacowania tempa wzrostu funkcjit, czyli możliwie najwolniej rosnącej funkcjig takiej, żet O(g).

6 Czasowa złożoność obliczeniowa Np. sortowanie bąbelkowe n liczb: Operacje rozmiar danych podstawowe: wejściowych: n; liczba operacji podstawowych const n operacje arytmetyczne, logiczne oraz porównania; 2 ; złożoność czasowa: T(n) O(n 2 ) (ale i też T(n) O(n 100 )). odczytanie, zapisanie do komórki pamięci; Twierdzenie. wywołanie Dowolny funkcji, algorytm procedury. sortujący n elementów za pomocą porównań wymaga w przypadku pesymistycznym czasu rzędu Ω(nlogn). /Cormen et al./ W modelu RAM koszty powyższych operacji podstawowych są jednostkowe. Dla ustalonych danych wejściowych I możemy (zazwyczaj) precyzyjnie wyznaczyć liczbę lop(i) operacji podstawowych wykonanych przez program. (Pesymistyczna) Czasowa złożoność obliczeniowa T(n) := max{lop(i) : I I(n)}, gdzie I(n) jest to zbiór wszystkich danych wejściowych o rozmiarze n. Ze względów praktycznych szuka się jak najlepszego oszacowania tempa wzrostu funkcjit, czyli możliwie najwolniej rosnącej funkcjig takiej, żet O(g).

7 Pamięciowa złożoność obliczeniowa W każdym momencie wykonywania programu jesteśmy w stanie sprawdzić, ile aktualnie wykorzystywanych jest komórek (jednostek) pamięci. Dla ustalonych danych wejściowych I możemy wyznaczyć liczbę lkp(i) komórek pamięci wykorzystywanych podczas działania programu. (Pesymistyczna) Pamięciowa złożoność obliczeniowa M(n) := max{lkp(i) : I I(n)}. Nie zliczamy łącznej liczby użytych komórek pamięci, a pytamy się, jaki powinien być najmniejszy rozmiar pamięci gwarantującej wykonanie się programu. W przypadku programów ze zmiennymi dynamicznymi należy ustalić maksymalny rozmiar stosu zmiennych dynamicznych. Szukamy jak najlepszego oszacowania tempa wzrostu funkcji M, czyli możliwie najwolniej rosnącej funkcji f takiej, że M O(f).

8 Pamięciowa Np. sortowanie złożoność bąbelkowe obliczeniowa n liczb: rozmiar danych wejściowych: n; W każdym momencie wykonywania programu jesteśmy w stanie sprawdzić, ile aktualnie liczba operacji wykorzystywanych podstawowych jest komórek const n 2 (jednostek) ; pamięci. złożoność czasowa: T(n) O(n 2 ); Dla ustalonych danych wejściowych I możemy wyznaczyć liczbę lkp(i) komórek pamięci wykorzystywanych podczas działania złożoność pamięciowa: M(n) O(1). programu. (Pesymistyczna) Pamięciowa złożoność obliczeniowa M(n) := max{lkp(i) : I I(n)}. Nie zliczamy łącznej liczby użytych komórek pamięci, a pytamy się, jaki powinien być najmniejszy rozmiar pamięci gwarantującej wykonanie się programu. W przypadku programów ze zmiennymi dynamicznymi należy ustalić maksymalny rozmiar stosu zmiennych dynamicznych. Szukamy jak najlepszego oszacowania tempa wzrostu funkcji M, czyli możliwie najwolniej rosnącej funkcji f takiej, że M O(f).