Wioletta Karpińska Wydział Matematyki i Informatyki Uniwersytet Łódzki Zajęcia na DUM I w 2017

Transkrypt

1 Wioletta Karpińska Wydział Matematyki i Informatyki Uniwersytet Łódzki Zajęcia na DUM I w 2017

2 Strona: Zaliczenie: do ustalenia. Programowanie: Windows/srodowiska_programistyczne/Dev -C_5.html DevC++ jest w pełni funkcjonalnym darmowym środowiskiem programistycznym C/C++ zawierającym wielookienkowy edytor kodu źródłowego z podświetlaniem składni, kompilator, debbuger, linker. Środowisko posiada także narzędzie do tworzenia pakietów instalacyjnych napisanych programów. Instalacja jest prosta i ogranicza się do postępowania zgodnie z instrukcjami.

3 Banachowski L., Kreczmar A.: Elementy analizy algorytmów. Banachowski L., Diks K., Rytter W.: Algorytmy i struktury danych. Cormen T.H., Leiserson Ch.E., Rivest R.L.: Wprowadzenie do algorytmów. Ross K.A., Wright Ch.R.B.: Matematyka dyskretna. Sedgewick R.: Algorytmy w C++. Sedgewick R., Flajolet P.: An Introduction to the Analysis of Algorithms.

4 Ogólnie o algorytmach Podstawowe narzędzia matematyczne Poprawność algorytmów Wybrane algorytmy sortowania Algorytmy rekurencyjne Złożoność obliczeniowa i pamięciowa Struktury danych Algorytmy przeszukiwania Algorytmy numeryczne

5 Algorytm w matematyce oraz informatyce skończony, uporządkowany ciąg jasno zdefiniowanych czynności, koniecznych do wykonania pewnego rodzaju zadań. Słowo "algorytm" pochodzi od starego angielskiego słowa algorism, oznaczającego wykonywanie działań przy pomocy liczb arabskich (w odróżnieniu od abacism - przy pomocy abakusa), które z kolei wzięło się od nazwiska أبو عبد هللا محمد بن موسى ( Alchwarizmi Muhammed ibn Musa. [1] wieku matematykaالخوارزمي perskiego z IX ) Źródło: Wikipedia

6 Algorytm -opis czynności składających się na proces przetwarzania zadanych obiektów początkowych (wejściowych) w celu otrzymania obiektów wynikowych (wyjściowych). Algorytm możemy również traktować jako sposób rozwiązywania konkretnego problemu. Postawienie problemu polega na sprecyzowaniu wymagań dotyczących relacji między danymi wejściowymi i wyjściowymi, a algorytm opisuje właściwą procedurę, która zapewnia, że ta relacja zostanie osiągnięta.

7 Warunek dyskretności skończona ilość operacji potrzebnych do rozwiązania Warunek uniwersalności możliwość stosowania metody do całej klasy zagadnień Istnieje określony stan początkowy Algorytm metoda rozwiązywania danego problemu, która spełnia warunki: Istnieje wyróżniony koniec Warunek jednoznaczności - jednoznaczna interpretacja poszczególnych kroków metody Warunek efektywności cel musi być osiągany w pewnym skończonym i możliwym do przyjęcia przez użytkownika czasie

8 Dowolny wykonawca algorytmu (w szczególności komputer) Sprzęt Język opisu algorytmu Dowolny, zrozumiały dla wykonawcy Możliwe do wykonania przez wykonawcę Operacje składowe algorytmu Schemat przetwarzania Obiekty wejściowe Algorytm Obiekty wyjściowe

9 Dane wejściowe 22 dag twardej czekolady półsłodkiej, 2 łyżki wody, 1/4 filiżanki cukru pudru, 6 jajek,.... Dane wyjściowe bity krem czekoladowy (kuchnia francuska) Opis algorytmu Włóż czekoladę z dwiema łyżkami wody do garnka o podwójnym dnie. Kiedy czekolada się rozpuści domieszaj cukier puder; dodaj po trochu masło. Odstaw. Ubijaj żółtka około 5 minut, aż staną się gęste i nabiorą koloru cytrynowego. Delikatnie dołóż czekoladę. Ponownie lekko podgrzej, aby rozpuścić czekoladę, jeśli to będzie konieczne. Domieszaj rum i wanilię. Ubijaj białka aż do spienienia. Ubijając dodaj dwie łyżki cukru i ubijaj dalej, aż utworzą się sztywne pagórki. Delikatnie połącz białka z masą czekoladowo-żółtkową. Wylej do oddzielnych naczyń, które będą podane na stół. Ochładzaj przez co najmniej 4 godziny. Wedle życzenia, podawaj z bitą śmietaną. Wyjdzie z tego 6 do 8 porcji.

10 Dane wejściowe 1 kg świeżych węgierek, 10 dag suszonych śliwek bez pestek, 3 dag rodzynków, laska wanilii, 50 dag cukru, po pół litra spirytusu i wódki Dane wyjściowe śliwowica (kuchnia polska) Opis algorytmu Owoce umyć, osuszyć, wypestkować (1/10 zostawić) i wraz z umytymi rodzynkami, suszonymi śliwkami i odłożonymi pestkami włożyć do słoja. Zasypać owoce cukrem, a gdy puszczą sok, zalać spirytusem i odstawić na 3 tygodnie. Od czasu do czasu potrząsać słojem. Zlać alkohol do pustego słoja, zamknąć i odstawić. Do naczynia z owocami wlać wódkę, włożyć wanilię, zamknąć go i odstawić. Po 2 tygodniach zlać nalew, osączając owoce. Wymieszać oba nalewy, starannie przefiltrować, rozlać do butelek, zakorkować i odstawić na 6 miesięcy w zaciemnione chłodne miejsce.

11 Podstawowe koncepcje algorytmiczne: sekwencje czynności warunkowe wykonanie powtarzanie, aż zajdzie warunek zestawy czynności zdefiniowane wcześniej poziom szczegółowości CZAS!

12 Dane wejściowe a, b liczby naturalne większe od 1 Dane wyjściowe c=nwd(a,b) Opis algorytmu Wypisz czynniki pierwsze liczby a, powstaje lista A={a 1,a 2,...,a n } (mogą wystąpić powtórzenia) Wypisz czynniki pierwsze liczby b, powstaje lista B={b 1,b 2,...,b m } (mogą wystąpić powtórzenia) Utwórz C jako listę wspólnych elementów list A i B (też z ewentualnymi powtórzeniami) Oblicz c jako iloczyn wszystkich elementów z C (jeśli C jest pusta to c=1) Wypisz c i zatrzymaj się.

13 Widać, jak algorytm działa dla małych liczb. Dla dużych: Jak znajdować dzielniki? Jak obliczać część wspólną list? Rozwiązanie problemu: Algorytm Euklidesa ćw.

14 Dane wejściowe lista ankiet osobowych (nazwisko, płaca, inne) Dane wyjściowe suma zarobków wszystkich osób Opis algorytmu zanotuj na boku liczbę 0 przewertuj kolejno ankiety dodając zarobki każdej osoby do liczby na boku kiedy osiągniesz koniec listy przedstaw wartość liczby na boku jako wynik

15 Ważna cecha przykładu: Wielkość programu taka sama dla dowolnie długich list

16 Problem zatrzymania algorytm ma orzekać, czy dany program komputerowy kiedykolwiek wykona wszystkie procedury i zatrzyma się Dane wejściowe Program komputerowy Dane wejściowe dla tego programu Dane wyjściowe Odpowiedź TAK (program zatrzyma się po wykonaniu wszystkich zawartych w nim poleceń) Lub odpowiedź NIE (program nie zatrzyma się) Rozwiązanie Nie istnieje algorytm, który w skończonym czasie orzeknie, czy dany program dla określonych danych wejściowych zapętli się czy nie.

17 IV w. p.n.e. Euklides: znajdowanie największego wspólnego dzielnika VIII/IX w. n.e.: Muhammed Alchwarizmi: dodawanie, odejmowanie, mnożenie, dzielenie liczb dziesiętnych (Algorismus nazwisko po łacinie) 1822 Charles Babbage: projekt maszyny różnicowej, mechaniczny kalkulator (budowa niedokończona)

18 1849 Babbage: maszyna analityczna - projekt mechanicznego komputera, sterowanego kartami Jacquarda (zrealizowany ostatecznie w 1991 w Science Museum, Londyn), czyli maszyny wykonującej dowolne programy 1850 Ada Augusta hrabina Lovelace: programy dla maszyny analitycznej Babbage a 1930-te Alan Turing, Kurt Goedel, Emil Post, Alonzo Church, Stephen Kleene, Andriej Markow : teoria algorytmów, możliwości i ograniczenia algorytmiki

19 1937 maszyna MARK 1 pierwsza działająca maszyna ze sterowaniem sekwencyjnym (przekaźniki elektromagnetyczne), sterowana za pomocą taśmy papierowej, 200 op./sek Maszyna Einiac pierwsza maszyna elektroniczna (lampy elektronowe) 6 tys. op./sek maszyny tranzystorowe, 20 tys. op./sek.

20 1964 maszyny mikroukładowe (układy scalone), 100 tys. op/sek 1970 maszyny na zintegrowanych elementach scalonych, 10 mln. op/sek 1970-te do dzisiaj: rozkwit algorytmiki

21 Uniwersalne urządzenie do wykonywania algorytmów związanych z przetwarzaniem informacji Komputer = sprzęt + oprogramowanie Obiekty przetwarzane przez program: Dane Dane +algorytm = wyniki Zapis algorytmu zrozumiały dla komputera w Języku programowania U nas C++ Algorytmy zrozumiałe dla komputera: Programy

22

23

24

25 Dział informatyki teoretycznej zajmujący się poszukiwaniem najlepszych i najbardziej efektywnych algorytmów do zadań komputerowych. Efektywny algorytm: Najszybszy? Wymagający najmniejszych zasobów pamięci? Prostota algorytmu? To zależy m.in. od przeznaczenia i oczekiwań użytkowników.

26 Inne Czas działania Zasoby potrzebne do wykonania algorytmu Szerokość kanału komunikacyjnego Pamięć

27 Nie możemy precyzyjnie przewidzieć ilości zasobów zbyt dużo zmiennych czynników. Wyodrębniamy główne parametry i poddajemy je analizie. Pomijamy wiele szczegółów analiza jest przybliżona. Cel osiągamy obiektywne porównanie różnych algorytmów rozwiązania tego samego problemu i wybranie najlepszego.

28 Badamy problem Czy możliwe jest rozwiązanie go na komputerze w skończonym i możliwym do zaakceptowania czasie Czy już istnieje algorytm rozwiązujący problem Czy mamy jeszcze czego szukać, czy już mamy algorytm optymalny Jeśli nie, to pracujemy nad lepszym rozwiązaniem Pytanie: Czy algorytm przez nas zaproponowany jest poprawny?

29 Poprawny jest, gdy: Dla każdego zestawu danych wejściowych zatrzymuje się i daje dobry wynik. Poprawność dokładniej zostanie omówiona na oddzielnym wykładzie. Intuicja

30 Złożoność obliczeniowa podstawowa wielkość stanowiąca miarę przydatności algorytmu. Obejmuje problemy związane z implementacją i efektywnością algorytmu.

31 Złożoność obliczeniowa funkcja zależna od danych wejściowych, a dokładnie od rozmiaru danych wejściowych. Rozmiar danych wejściowych liczba pojedynczych danych wchodzących w skład całego zestawu danych wejściowych. Przykład: Problem Wyznaczenie wartości wielomianu w punkcie Wyznaczenie n-tej potęgi liczby rzeczywistej Mnożenie dwóch liczb całkowitych Sortowanie ciągu elementów Zagadnienie przechodzenia przez drzewo Rozmiar danych wejściowych Stopień wielomianu Wykładnik potęgi Całkowita liczba bitów potrzebnych do reprezentacji tych liczb w postaci binarnej Liczba wyrazów ciągu Liczba węzłów drzewa

32 Zależność odwrotnie proporcjonalna Złożoność pamięciowa P(n) pamięć, przestrzeń. (Jaka ilość zasobów pamięci potrzebna jest do realizacji liczba i rodzaj zmiennych, rodzaj danych) Złożoność czasowa T(n)- czas. (Zależy od liczby operacji wykonanych podczas działania algorytmu) Złożoność obliczeniowa algorytmu

33 Miara szybkości algorytmu powinna być: Niezależna od oprogramowania Niezależna od sprzętu Niezależna od umiejętności programisty Powinna to być cecha samego algorytmu!

34 Problem Wyznaczenie wartości wielomianu w danym punkcie Sortowanie Przeglądanie drzewa Operacje dominujące Operacje arytmetyczne Porównanie elementów ciągu wejściowego (czasem także przestawienie elementów ciągu) Przejście między węzłami w drzewie

35

36 Liczbę operacji dominujących zwykle szacujemy z dokładnością do stałego czynnika. Dla małych rozmiarów danych wejściowych najlepsze są najprostsze rozwiązania nie ma problemu. Jak zachowuje się algorytm, gdy rozmiar danych wejściowych dąży do nieskończoności? Podajemy najprostszą funkcję charakteryzującą rząd wielkości T(n). Np.: T(n)=n 2 dla 2n 2 +50, T(n)=n dla 100n W pierwszym przypadku algorytm jest wolniejszy, bo dla dużego n funkcja kwadratowa rośnie szybciej niż liniowa.

37 Asymptotyczny czas działania czas działania algorytmu dla danych wejściowych, których rozmiar dąży do nieskończoności.

38 Większość algorytmów ma złożoność czasową (asymptotyczny czas działania) proporcjonalną do jednej z podanych poniżej funkcji:

39 Przykład. Tabelka przedstawiająca czas potrzebny do realizacji algorytmu, który wykonuje 2 n operacji dominujących (dla danych wejściowych rozmiaru n) przez dwa komputery, przy założeniu, że jedna operacja na każdym z nich zajmuje odpowiednio 10-6 i 10-9 sekund.

40 Mając algorytm, pytamy, czy możemy szybciej osiągnąć cel, czy też złożoność czasowa już osiągnęła wartość najmniejszą z możliwych. Zakres (przedział) czasów działania przedział między teoretycznym dolnym oszacowaniem a najlepszym znanym algorytmem

41 Algorytmy sortowania oparte na porównywaniu elementów mają teoretyczne dolne oszacowanie liczby operacji dominujących rzędu nlgn, a trywialne dolne oszacowanie rzędu n. Problem mnożenia dwóch macierzy wymiaru n x n ma trywialne dolne oszacowanie rzędu kwadratowego.

42 Dla niektórych ważnych problemów teoretyczne dolne oszacowanie nie zostało jeszcze wyznaczone. W takim przypadku bierzemy pod uwagę najszybszy istniejący algorytm rozwiązujący dany problem.