PROJEKTOWANIE ALGORYTMÓW I METODY SZTUCZNEJ INTELIGENCJI SZTUCZNA INTELIGENCJA WABOT Organista Ichiro Kato, Waseda University Tokyo Wykład dr inż. Łukasz Jeleń Część slajdów pochodzi z wykładu prof. Christiana Jacoba z Universytetu w Calgary oraz wykładów prof. Włodzisława Ducha z UMK i dr. inż. D. Banasiaka, PWr 1 2 CZYM JEST SZTUCZNA INTELIGENCJA? SZTUCZNA INTELIGENCJA Jak działa ludzki mózg? Jak zasymulować ludzki mózg? Co to kogo obchodzi zróbmy coś pożytecznego Metody i algorytmy pozwalające na symulowanie inteligentnego zachowania komputera zbliżające jego sposób podejmowania decyzji do ludzkiego. Co to jest inteligencja? Jak tworzymy inteligencję? Termin zaproponowany przez Johna McCarthy ego w roku 1955. 3 4 PROBLEM REPREZENTACJA WIEDZY KNOWLEDGE SOUP D ed uk cja Teoria Odpowiedź Sowa, 2002 5 6
MODEL VS. RZECZYWISTOŚĆ REPREZENTACJA WIEDZY Problem oraz jego rozwiązanie jest zazwyczaj przedstawiane w sposób nieformalny dostarcz przesyłkę zaraz po jej otrzymaniu napraw to co się zepsuło w zasilaniu kuchenki George Box: Wszystkie modele są błędne, ale niektóre są użyteczne." Sowa, 2002 rozwiąż problem reprezentacja oblicz reprezentacja rozwiązanie interpretacja wyjście nieformalnie formalnie 7 8 SCHEMAT ROZWIĄZYWANIA PROBLEMÓW PRZEZ KOMPUTER W celu rozwiązania problemu, programista musi: uszczegółowić zadanie i wyznaczyć rozwiązanie; przedstawić problem w języku, w którym komputer może dokonać wnioskowania; wykorzystać komputer do obliczenia wyjścia odpowiedz przedstawiona użytkownikowi PRZYKŁAD I która to jest osoba? 1 0 Interpretacja 0 0 0 sekwencja niezbędnych do przeprowadzenia akcji zinterpretować wyjście jako rozwiązanie problemu. Obrazy z Olivetti Research Laboratory 9 10 WIEDZA DANE, INFORMACJA, WIEDZA Jest informacją o domenie, która może zostać wykorzystana do rozwiązywania problemów w tej dziedzinie Rozwiązanie problemu wymaga reprezentacji wiedzy przez komputer Programista musi zdefiniować jak będzie ona reprezentowana Reprezentacja jest formą wiedzy wykorzystywaną jako agent Schemat reprezentacji jest specyficzną formą wiedzy Dobra reprezentacja wiedzy stanowi kompromis między różnymi celami Mądrość Wiedza Informacja Dane A. Straszak: Społeczeństwo oparte na wielkich zasobach wiedzy 11 12
PRZYKŁAD Jabłko jest owocem. Owoc jest słodki PRZYKŁAD 2 Przykład stworzony przez sześciolatka opisujący jego stan wiedzy o wielorybach Jabłko jest owoc jest słodki Seth Russell Seth Russell 13 14 REPREZENTACJA WIEDZY PROBLEM KOMUNIKACYJNY Ludzie z różnymi poglądami, teoriami i zamiarami Sowa, 2002 15 16 ALE OD POCZĄTKU Idea programowania komputerów w celu inteligentnego zachowania. Po raz pierwszy zaproponowana przez kogóż innego jak nie Alan Turing, 1950 Pojęcie sztucznej inteligencji" zdefiniowane przez John a McCarthy iego w 1955. Każdy aspekt uczenia lub innych cech inteligencji może być tak dokładnie opisany, aby maszyna była w stanie to zasymulować. 17 CELE SZTUCZNEJ INTELIGENCJI Hipoteza słaba AI: Maszyny mogą zostać zaprogramowane tak aby wykazywały inteligentne zachowania. prawdziwe: dowód Deep Blue, TD-Gammon, i inne. Programy wykorzystują metody znacznie różniące się od ludzkich. Złożoność (zadań) vs. Symulacja (metody ludzkie). Hipoteza silna AI: Maszyny mogą zostać zaprogramowane tak aby posiadały inteligentne zachowania. Czy muszą wykorzystywać metody zbliżone do mózgu (np. SN) Searle zastosował eksperyment Chińskiego pokoju jako ścisły dowód istnienia silnej AI Ale wielu się z tym nie zgadza! 18
TEST TURINGA Sędzia wpisuje pytania Komputer twierdzi, że jest człowiekiem tak jak i człowiek Jeśli sędzia nie potrafi odgadnąć za którym komputerem siedzi człowiek, to mówimy, że komputer przeszedł test i jest inteligentny 19 EKSPERYMENT CHIŃSKIEGO POKOJU Załóżmy, że: Nie znamy języka Chińskiego. Jesteśmy sami w pokoju zawierającym szufladki wejście i wyjście. Posiadamy księgę pisma Chińskiego Posiadamy instrukcję po polsku (ale nie tłumaczenie), która objaśnia co należy napisać na kartce umieszczanej w szufladce wyjście w odpowiedzi na różne wejścia Następnie: Chińczyk po drugiej stronie ściany wkłada do szufladki wejście kartkę zapisaną po chińsku. Oni wiedzą, że to są pytania, my nie. Po zapoznaniu się z instrukcją wyznaczamy właściwą chińską odpowiedź, zapisujemy i oddajemy na wyjście I teraz pytanie: Ludzie na zewnątrz myślą, że znamy chiński. A znamy? Jeśli komputer zachowywałby się tak samo, to znałby chiński? 20 PROBLEMY SZTUCZNEJ INTELIGENCJI rozwiązywanie problemów (gry np. szachy, zagadki logiczne, itp.) rozumowanie logiczne (dowodzenie twierdzeń, projektowanie układów logicznych) przetwarzanie języka naturalnego (rozumienie mowy, tłumaczenie maszynowe, rozumienie języka, prowadzenie konwersacji) automatyczne programowanie (opis algorytmów przy pomocy języka naturalnego) STRATEGIE ROZWIĄZYWANIA PROBLEMÓW Proste techniki przeszukiwania Dekompozycja problemu grafu AND/OR Przeszukiwanie zależne od domeny problemu dr inż. D. Banasiak: Wykład z AI 21 22 PRZESZUKIWANIE PROSTE DEKOMPOZYCJA PROBLEMU I GRAFY AND/OR Przeszukiwanie zachłanne Wzrost i spadek gradientu Przeszukiwanie stochastyczne symulowane wyżarzanie przeszukiwanie ewolucyjne Przeszukiwanie w głąb i wszerz [Bratko 2001] 23 24
PRZESZUKIWANIE ZALEŻNE OD DOMENY PROBLEMU PRZESZUKIWANIE ZALEŻNE OD DOMENY PROBLEMU Anatolij Karpow i Garii Kasparow 25 26 PRZYKŁAD - GRA W PUZZLE Przesuwaj kafelki dopóki nie będą poukładane w kolejności Oczywiście znajdziemy tę grę w sieci Ale z jakiej korzystają strategii? Brak jednoznacznego algorytmu PUZZLE: PRZESZUKIWANIE WSZERZ Przeszukujemy drzewo w poszukiwaniu węzła docelowego poziom po poziomie Z tej pozycji, trzy kolejne pozycje z każdej z nich mamy dwa, trzy lub cztery kolejne ruchy i tak dalej Czy to nie przypomina drzewa? oczywiście 27 28 PUZZLE: PRZESZUKIWANIE W GŁĄB Poszukiwanie Celu wykonywane na pewnej głębokości 29 PUZZLE: PRZESZUKIWANIE HEURYSTYCZNE BFS i DFS są poszukiwaniami ślepymi Wymagające metody odnajdywania ścieżki Często niemożliwe zbyt duża ilość rozwinięć węzłów Ale sukces gwarantowany Przeszukiwanie heurystyczne Wykorzystuje funkcje oszacowania do rankingu węzłów; wybieramy najlepszy Brak gwarancji sukcesu Np.: wykorzystaj odległość od startu + ilość kafelek nie na miejscu Wiele możliwych funkcji 30
FUNKCJA HEURYSTYCZNA Funkcja h : Ψ R, gdzie Ψ to zbiór dozwolonych stanów, R to liczby rzeczywiste, odwzorowuje stany s ze zbioru Ψ na wartości h(s) służące do oceny względnych kosztów lub zysków rozwijania dalszej drogi przez węzeł odpowiadający s. PROBLEM KOMIWOJAŻERA Węzeł A ma 3 potomków. h(s1)=0.8, h(s2)=2.0, h(s3)=1.6 Wartości = koszty utworzenia węzła; najtaniej jest utworzyć węzeł s1 i ten z punktu widzenia danej heurystyki jest najlepszym kandydatem. 31 Co zostanie wybrane? 32 DRZEWO PK ALGORYTMY ZACHŁANNE Drzewo DFS. Mamy (N-1)! dróg dla wszystkich permutacji, zakładając N miejsc i powrót do tego samego miejsca. 33 Odległości miast na mapie Rumunii od Bukaresztu; h SLD (n) = odległości w linii prostej do miasta n. 34 SZUKANIE ZACHŁANNE SZUKANIE A * Szukanie zachłanne minimalizuje koszty dojścia do celu -> h(n) nie jest to algorytm zupełny ani optymalny Lekarstwem będzie wprowadzenie drugiej funkcji g(n) i jej minimalizacja minimalizacja kosztów dojścia do danego węzła metoda kompletna, optymalna, ale mało efektywna Metoda A* wykorzystuje obie te funkcje (h(n) i g(n)) w jednej funkcji heurystycznej h(n) - odległość mierzona w linii prostej od Bukaresztu - podana w węzłach. 35 f(n) = g(n) + h(n) ocenia koszty najtańszego rozwiązania przechodzącego przez węzeł 36
ALGORYTM A* 1. Począwszy od węzła początkowego tworzymy nowe węzły {n} do momentu osiągnięcia celu 2.Sortujemy nowe węzły z zastosowaniem funkcji: f(n) = g(n) + h(n) ścieżek zapętlonych nie bierzemy pod uwagę Wybieramy najlepszy węzeł n Zostawiamy tylko najtańszą ścieżkę do n Jeśli n jest celem => koniec else => rozwijaj dalsze węzły, łącznie z n 37 WŁAŚCIWOŚCI Ponieważ wybierana jest najtańsza droga do danego węzła n, to żadna inna droga nie może obniżyć całkowitego kosztu (monotoniczność). h(n) powinno być wiarygodną oceną kosztów dojścia do celu monotoniczne zaniżenie wszystkich kosztów nie przeszkadza. Algorytm A * jest w tym przypadku optymalny. 38 A* ITERACYJNIE POGŁĘBIANE IDA* Wykorzystujemy algorytm DFS Oceniamy całkowity koszt f(n)= g(n) + h(n) heurystyką A* If f(n) > T (próg) => cofnij się else => rozwiązanie nieznalezione, zwiększamy T i powtarzamy Wady: Część ścieżek jest odwiedzana więcej niż raz końcowe szukanie zajmuje dużo czasu Zalety: Mała pamięć 39 PRZYKŁAD A* DLA PUZZLI 40 Przestrzeń stanów utworzona w czasie heurystycznego szukania 8-ki. f(n) = g(n) + h(n) g(n) = odległość od startu do stanu n. h(n) = liczba elementów na złym miejscu. A CO JEŚLI MAMY PRZECIWNIKA? PRZYKŁAD KÓŁKO I KRZYŻYK Gracz wybiera najlepszy ruch Przeciwnik wybiera najlepszy ruch Gracz wybiera najlepszy ruch Powinniśmy wykonać ruch minimalizujący największe szanse przeciwnika A przeciwnik powinien zrobić to samo Metoda MiniMax wykorzystuje heurystykę, która zakłada, że wykonujemy ruch najlepszy dla siebie (max) a przeciwnik wykona ruch najgorszy dla nas (min) 41 42
MINIMAX DLA KÓŁKA I KRZYŻYKA TWIERDZENIE MINIMAX Każda skończona gra dwuosobowa o sumie zerowej ma co najmniej jedno rozwiązanie, które określa wartość gry i optymalne strategie graczy. von Neumann (1928) 43 44 STRATEGIA MINIMAXU MINIMAX - ANALIZA 1. Utwórz drzewo dla gry do maksymalnej głębokości. - tak głębokie na ile damy radę 2. Przypisz liściom wartości f. heurystycznej. 3. Cofnij się o jeden poziom i dokonaj oceny węzłów. - wierzchołkom na kolejnych poziomach nadajemy wartości maks. dla gracza oraz min. dla przeciwnika 4. Po osiągnięciu korzenia wybierz decyzję maksymalizującą zyski. Bazuje na teorii gier von Neumanna, Morgensterna z 1944 Jest decyzją kompletną dla drzew skończonych Złożoność czasowa: O(b m ) Złożoność pamięciowa: O(bm) - przeszukiwanie DFS 45 46 MINIMAX - PRZYKŁAD Wybór najlepszej drogi W/g strategii, oceniamy informacje z liści i przechodzimy do kolejnego poziomu przenosząc najniższe lub najwyższe oceny na węzły z ruchami dla MAX i MIN MAX powinien przejść do sytuacji B, skąd ma szansę dotrzeć do węzła Win/+10, ale MIN zredukuje ją do W/+3; wybór przejścia do C daje MIN szansę zredukowania uzyskania przewagi o 1 punkt, czyli L/-1. 47 Koszty: FUNKCJE OCENY pionek=1, skoczek=3, goniec=3, wieża=5 Pozycja figur: ocena zależna od sytuacji pionek przy końcu planszy jest istotniejszy niż zablokowany Ocena kolejnego ruchu, zagrożeń dla figur Złożone oceny konfiguracji wielu figur Połączenie liniowe różnych elementów oceny f i z wagami W i E(f) = Wifi i W i jest dobierany w celu maksymalizacji zysków nieliniowe funkcje mogą być lepsze 48
PRZYKŁAD - SZACHY Ludzie oceniają jakościowo, wystarczą względne porównania. Na podstawie doświadczenia tworzy się złożone funkcje oceny. CIĘCIA ALFA-BETA Jest modyfikacją strategii minimaks Węzły nie mające wpływu na wartość przypisywaną do przodków są eliminowane z dalszej analizy oszczędność czasu (mniejsze drzewo gry) Dwa rodzaje cięć: cięcie α - najlepsza wartość dla MAXa dla kolejnych kroków; porzuć V jeśli istnieją lepsze wartości α w innej części grafu (dla MAX); cięcie β - najlepsza wartość dla MINa dla kolejnych kroków; Ruch czarnych Ruch białych Ruch czarnych Przewaga białych Czarne wygrywają Białe bliskie przegranej Złożoność czasowa: O(b m/2 ) 49 50 CIĘCIA ALFA-BETA GRY NIEDETERMINISTYCZNE Strategia min-max połączona z oceną probabilistyczną szans na generowanie kolejnego ruchu Obcinanie α-β można zastosować, ale przestaje być efektywne, wzrasta liczba możliwych rozgałęzień. 51 dr inż. D. Banasiak: Wykład z AI 52 Sztuczna Inteligencja w akcji POWODZENIA NA KOLOKWIUM 53 54