Wprowadzenie do Sztucznej Inteligencji Wykład 2 Informatyka Studia Inżynierskie Automatyczne dowodzenie twierdzeń O teoriach formalnie na przykładzie rachunku zdań Zastosowanie dedukcji: system Logic Theorist Rezolucja Strategie rezolucyjne - heurystyki w procesie dowodzenia 1
Rachunek zdań syntaktyka Alfabet rachunku zdań tworzą wyrażenia: zbiór r nieskończony (przeliczalny) zmiennych zdaniowych: p, q, r, zwanych atomami lub formułami atomowymi, oraz spójniki (operatory) logiczne:, zwane odpowiednio negacją i implikacją. Rachunek zdań syntaktyka Zbiór r formuł jest najmniejszym zbiorem spełniaj niającym warunki: atomy (zmienne zdaniowe) sąs formułami, jeśli jest formułą łą,, to również jest formułą łą, jeśli oraz są formułami, to również jest formułą łą. Dla uproszczenia wprowadza się spójniki:,, zwane odpowiednio koniunkcją,, dysjunkcją i równowar wnoważnością, określone jako: ( ) ( ) ( ) 2
Rachunek zdań pomocnicze definicje Literałem em nazywamy formułę atomową lub jej negację. Klauzula to alternatywa literałów. Klauzulę,, która nie zawiera żadnego literału nazywamy klauzulą pustą i oznaczamy. Klauzula Horna to klauzula zawierająca co najwyżej jedną formułę atomową w postaci prostej (nie zanegowanej). Rachunek zdań semantyka Niech będzie dowolną formułą łą,, zaś A 1,A 2,,A n wszystkimi atomami, które w niej występuj pują. Interpretacją I formuły nazywamy funkcję odwzorowującą ze zbioru atomów {A 1,A 2,,A n } w zbiór wartości logicznych {0, 1}. Wartość formuły y atomowej p w interpretacji I jest równa r wartości logicznej przypisanej tej formule przez interpretację: I (p) = I(p) 3
Rachunek zdań semantyka Wartość formuły y złożonejz onej w interpretacji I zależy y od wartości podformuł składowych (z których zbudowana jest formuła a złożona) z ona) i określona jest ona następuj pująco: 1, I ( ) 0, w 0, I ( ) 1, gdy gdy ( ) 0 przeciwnym przypadku ( ) 1 oraz ( ) 0 I I w przeciwnym przypadku I Definicje Rachunek zdań semantyka Formuła jest prawdziwa przy interpretacji wtw,, gdy jej wartość w tej interpretacji wynosi 1, czyli ()=1. Mówimy wówczas, w wczas, że e interpretacja I jest modelem dla (albo: spełnia). Formuła jest prawdziwa (inaczej: jest tautologią) wtw, gdy każda interpretacja jest modelem formuły,, czyli formuła prawdziwa jest przy każdej interpretacji. Formuła jest spełnialna wtw,, gdy istnieje taka interpretacja przy której formuła a jest prawdziwa. 4
Rachunek zdań semantyka Definicje Formuła jest fałszywa przy interpretacji wtw,, gdy jej wartość w tej interpretacji wynosi 0, czyli ()=0. Formuła jest fałszywa (inaczej: niespełnialna nialna) wtw,, gdy jest formułą fałszyw szywą w każdej interpretacji. Formuła jest falsyfikowalna wtw,, gdy istnieje taka interpretacja, że ()=0. Wnioski z definicji Rachunek zdań semantyka Formuła jest prawdziwa wtw,, gdy jej formuła jest fałszywa. Jeżeli eli jest formuła a prawdziwą,, to jest formuła spełnialn nialną (ale nie odwrotnie!) Jeżeli eli jest formułą prawdziwą,, to nie jest formułą fałszyw szywą (ale nie odwrotnie!) Formuła nie jest prawdziwa wtw,, gdy jest falsyfikowalna. 5
Wnioski z definicji Rachunek zdań semantyka Formuła jest fałszywa wtw,, gdy formuła jest prawdziwa. Jeżeli eli jest formuła a fałszyw szywą,, to jest formułą falsyfikowalną (ale nie odwrotnie!) Jeżeli eli jest formułą fałszyw szywą,, to nie jest formułą prawdziwą (ale nie odwrotnie!) Formuła nie jest fałszywa wtw,, gdy jest spełnialna. Rachunek zdań wnioskowanie Formuła jest konsekwencją logiczną zbioru formuł U={ ={ 1, 2,...,, n }, co zapisujemy U,, jeżeli eli każda interpretacja, która spełnia U (tzn. jest jego modelem) spełnia także. Jeżeli eli zbiór r formuł U jest pusty, to pojęcie konsekwencji logicznej jest tożsame z pojęciem prawdziwości, co zapisujemy. Twierdzenie o dedukcji Niech U={ ={ 1, 2,...,, n } będzie b zbiorem formuł,, zaś będzie pojedynczą formułą łą.. Zachodzi wówczas: w wczas: U wtedy i tylko wtedy, gdy formuła 1 n jest prawdziwa, czyli gdy 1 n. 6
Twierdzenie Rachunek zdań wnioskowanie Formuła jest logiczną konsekwencją zbioru formuł U={ ={ 1, 2,...,, n } wtedy i tylko wtedy, gdy formuła 1 n jest niespełnialna. nialna. Twierdzenie o rozstrzygalności Rachunek zdań jest rozstrzygalny, tzn. można zawsze obliczyć wartość logiczną formuły. Podstawowe pojęcia dotyczące ce teorii Teoria Zbiór r formuł T nazywamy teorią wtw,, gdy jest on zamknięty ze względu na konsekwencje logiczne. Zbiór r formuł T jest zamknięty ze względu na konsekwencje logiczne wtw,, gdy dla wszystkich formuł zachodzi zależno ność: : jeżeli eli T,, to T. Elementy zbioru T nazywamy twierdzeniami teorii. Niech U będzie zbiorem formuł.. Zbiór T(U)={ )={ U } nazywamy teorią zbioru formuł U,, zaś formuły y należą żące do U nazywamy aksjomatami. 7
Wnioskowanie (dowód) d) Wnioskowaniem ze zbioru formuł U (przesłanek) formuły (wniosku) nazywamy skończony ciąg g formuł W=W 1,...,W n, taki, że W n = oraz każda z formuł W i (1 i n) ) jest elementem zbioru U (aksjomatem) bądźb wnioskiem wyprowadzonym za pomocą pewnej reguły y wnioskowania z wcześniejszych przesłanek W j. Jeżeli eli dla danej formuły oraz zbioru U istnieje wnioskowanie, to piszemy U. Wnioskowanie: poprawność i pełno ność Twierdzenie o poprawności. Niech U będzie zbiorem formuł,, zaś dowolną formułą łą,, wtedy: jeżeli eli U, to U. Twierdzenie o pełno ności. Niech U będzie zbiorem formuł,, zaś dowolną formułą łą,, wtedy: jeżeli eli U, to U. Dzięki twierdzeniu o pełno ności problem stwierdzenia, czy formuła jest logiczną konsekwencją zbioru formuł U można sprowadzić do zagadnienia poszukiwania wnioskowania formuły ze zbioru U,, co jest o tyle istotne, że e konstrukcja wnioskowania ma charakter wyłą łącznie syntaktyczny i poddaje się automatyzacji. 8
Pełno ność procedury dowodowej - dlaczego? Istnienie pełnej procedury dowodowej: zredukowałoby oby proces dowodzenia jedynie do mechanicznych manipulacji składni adnią formuł logicznych oznaczałoby, oby, iżi wszystkie wnioski i twierdzenia logiki sąs zawsze i jedynie pochodną przyjętego zbioru aksjomatów i umożliwi liwiłoby tym samym automatyzację procesu rozwiązywania zywania każdego problemu sformułowanego owanego w języku j logiki (pomijamy problem złożonoz oności obliczeniowej takiego procesu!) Dedukcja Dedukcja jest wnioskowaniem, w której podstawową regułą wnioskowania (dowodową) ) jest reguła a odrywania: A, A B albo B A, A B B Reguła a odrywania wymaga aby formuły y miały y postać atomową lub były y klauzulami Horna. 9
Logic Theorist (LT) Reprezentacja wiedzy: rachunek zdań i predykatów Mechanizmy wnioskowania: podstawienie zastąpienie reguła a odrywania reguła łańcucha Sterowanie wnioskowaniem: przeszukiwanie począwszy od celu we wszystkich możliwych kierunkach Logic Theorist (LT): wnioskowanie Podstawienie W każdym twierdzeniu, o którym wiemy, że e jest prawdziwe można podstawić za zmienną dowolne wyrażenie (w każdym wystąpieniu tej zmiennej). Przykład (B B) B... aksjomat A za B... podstawienie (A A) A... wynik 10
Logic Theorist (LT): wnioskowanie Zastąpienie Operator wyrażenia można zastąpi pić wyrażeniem logicznie równoważnymnym lub jego definicją. Przykład (A B) (A B)... Definicja (A A) A... Wyrażenie (A A) A... Zastąpienie Logic Theorist (LT): wnioskowanie Reguła a odrywania (modus ponens) Z prawdziwości implikacji i jej przesłanek możemy wnioskować o prawdziwości jej konkluzji: albo: [(A B) A ] B A B, A B Reguła łańcucha Jeżeli eli mamy A B oraz B C,, to mamy nowy problem (podcel( podcel): A C 11
Logic Theorist (LT): sterowanie Funkcjonowanie systemu LT opiera się na następuj pującej sekwencji działań: Po pierwsze, wykonanie wszystkich możliwych zmian w bieżą żącym celu z wykorzystaniem operacji podstawienia, Po drugie, jeżeli eli to nie prowadzi do dowodu, stosujemy wszystkie możliwe oderwania i zastąpienia do naszego celu; jeżeli eli nie doprowadzi to żadnego z wyrażeń do aksjomatu, wyniki dodawane sąs do listy podcelów, Po trzecie, stosujemy regułę łańcucha, Po czwarte, jeżeli eli żadne z trzech powyższych działań nie doprowadziło o do dowodu, przechodzimy do listy podcelów i wybieramy kolejny nie rozważany any dotąd d podcel Logic Theorist (LT): sterowanie Warunki stopu systemu LT: znaleziono dowód lista podcelów jest pusta (tzn. nie można wywieść z posiadanych przesłanek) dostępny czas i/lub pamięć zostały y wyczerpane 12
Logic Theorist (LT): przykłady cel p (q p) nie jest aksjomatem zastąpienie (q p) (q p) wynik: p (q p) podcel p (q p) podstawienie q za q p (q p) to aksjomat c.b.d.u. cel (p p) p nie jest aksjomatem zastąpienie (p p) (p p) wynik: (p p) p podcel (p p) p podstawienie p za p (p p) p to aksjomat c.b.d.u. Logic Theorist (LT): podsumowanie Program napisany przez Newella,, Simona i Shawa w roku 1956, który dowodził podstawowe twierdzenia pierwszego rozdziału Principia Mathematica Wnioskowanie: dedukcja Procedura pomocnicza: unifikacja wyrażeń Problemy: złożonoz oność,, sterowanie wnioskowaniem 13
Reguła modus ponens: : niepełno ność Przykładowy zbiór r aksjomatów p q p r q s r s Dowód d nieformalny dla s: s jest prawdziwe, gdy q lub r jest prawdziwe; q lub r musi być prawdziwe, bo p lub p jest prawdziwe (zawsze!). Zatem s z pewności cią jest prawdziwe! Modus Ponens: p r nie można przekształci cić do postaci Horna (byłoby wtedy p r, czyli dwa literały y proste) i tym samym nie można skorzystać z reguły odrywania by dowieść prawdziwości s. Wniosek: Istnieją twierdzenia (konsekwencje logiczne) prawdziwe w rachunku zdań,, których nie można dowieść za pomocą modus ponens. Postacie normalne Formuła a jest w koniunkcyjnej postaci normalnej (CNF) wtw,, gdy jest ona postaci = 1 2... n (dla n 1), gdzie 1, 2,..., n są klauzulami. Formuła a jest w dysjunkcyjnej postaci normalnej (DNF) wtw,, gdy jest ona postaci = 1 2... n (dla n 1), gdzie 1, 2,..., n są koniunkcjami literałów. Twierdzenie Dla dowolnej formuły istnieją formuły y jest równowar wnoważne ne w koniunkcyjnej i dysjunkcyjnej postaci normalnej. 14
Sprowadzanie do postaci normalnej W celu sprowadzenia do postaci normalnej należy: 1) wyeliminować spójniki, za pomocą reguł: ( ) ( ), ( ), 2) wprowadzić negację bezpośrednio przed formuły y atomowe zgodnie z wzorami: ( ), ( ), ( ), 3) wyprowadzić koniunkcję (postać CNF) albo dysjunkcję (postać DNF) na zewnątrz nawiasów w przy użyciu u praw: ( ) ( ) ( ), ( ) ( ) ( ). Zasada rezolucji: Reguła a rezolucji: zasada A B, B C A C albo A B, B C A C Interpretacja (dysjunkcji): Jeśli B jest fałszywe, to w pierwszej dysjunkcji A musi być prawdziwe (skoro cała a alternatywa jest prawdziwa); ale jeśli B jest prawdziwe, to wtedy w drugiej dysjunkcji C musi być prawdziwe (skoro ta alternatywa też jest prawdziwa); zatem, A lub C są prawdziwe. Interpretacja (implikacji): poprawność zasady rezolucji wynika z przechodniości ci implikacji 15
Rezolucja: pojęcia podstawowe literały komplementarne przesłanka przesłanka A B, B C A C rezolwenta Rezolucja ma charakter binarny tzn. dotyczy dokładnie dwóch klauzul, a rezolwenta jest wyprowadzana z jednej pary literałów komplementarnych. Rezolucja: zasada rezolucji a modus ponens A, A B True A, A B B True B True A, A B True B False A, A B False B Zasada rezolucji jest uogólnieniem reguły y odrywania. Modus ponens nie daje możliwo liwości generowania dysjunkcji (implikacji) - możliwe jest jedynie wywodzenie formuł atomowych. 16
Rezolucja: wywód d rezolucyjny oraz dowód Wywodem rezolucyjnym klauzuli C ze zbioru klauzul U nazywamy ciąg g klauzul W=W 1,...,W n, którego elementami sąs wyłą łącznie elementy zbioru U oraz rezolwenty klauzul występuj pujących wcześniej w tym ciągu, zaś W n =C. Wywód d rezolucyjny klauzuli pustej ze zbioru U nazywamy dowodem niespełnialno nialności (sprzeczności)) dla U. Rezolucja: przypadki wnioskowania Przesłanki P P Q (P Q) P Q P Q P Q P Q P P P Q (P Q) Q R (Q R) Rezolwenty Q Q Q Q P P P R (P R) modus ponens Uwagi Q Q daje Q rezolwenta sklejana dwie rezolwenty (obie tautologie) klauzula pusta (oznaka sprzeczności) ci) wnioskowanie łańcuchowe (ang. chaining) 17
Zasada rezolucji: pełno ność czy niepełno ność? Zasada rezolucji nie jest pełna na,, gdyż nie jest możliwe wywiedzenie formuły p p (będącego tautologią) ) dla pustego zbioru klauzul początkowych (aksjomatów). Zasada rezolucji jest jednak pełna w sensie refutacji tzn. zawsze umożliwia wyprowadzenie klauzuli pustej (fałszywej w każdej interpretacji!), jeśli dany zbiór r klauzul jest niespełnialny. nialny. Refutacja (reductio( ad absurdum) - dowód nie wprost Aby dowieść ść, że e klauzula P jest logiczną konsekwencją zbioru klauzul S wystarczy wykazać, że e zbiór {S P} jest sprzeczny. Rezolucja: procedura dowodowa Przekształć przesłanki lub aksjomaty w formę klauzul Dodaj do zbioru aksjomatów w zaprzeczenie twierdzenia, które ma być udowodnione (w formie klauzuli) Generuj nowe klauzule (rezolwenty), wynikające z tego zbioru (zgodnie z zasadą rezolucji) i powiększaj o nie zbiór Szukaj sprzeczności, ci, podąż ążając c ku klauzuli pustej 18
Rezolucja: graf wywodu (przykład) p p q p r r p Rezolucja: drzewo wywodu (przykład) p p q p r r q r p 19
Rezolucja: strategie dowodzenia Strategie wyboru Strategia liniowa (ang. linear resolution) Strategia źródłowa (ang. input resolution) Strategia preferencji jednostkowej (ang. unit preference resolution) Strategia zbioru podpierającego/zbioru uzasadnień (ang. set of support resolution) Przeszukiwanie wszerz (saturacja) Strategie eliminacji usuwanie klauzul zawierających czyste literały y (brak drugiej klauzuli zawierającej literał komplementarny) usuwanie tautologii (klauzul zawierających literały y komplementarne) usuwanie klauzul pochłoni oniętych Rezolucja: przykład saturacji (krok 1) p p q p r r q r p 20
Rezolucja: przykład saturacji (krok 2) p p q p r r q r p Rezolucja: strategia zbioru podpierającego Zbiór r uzasadnień T - dowolny niepusty podzbiór zbioru S klauzul początkowych (skończonego i niepustego) W każdym kroku wywodu przynajmniej jedna z przesłanek jest klauzulą ze zbioru T bądź klauzulą wyprowadzoną we wcześniejszej fazie wywodu (inaczej: zbiór T jest po wykonaniu każdego kroku wzbogacany o wyprowadzony wniosek/rezolwent rezolwentę) Strategia zupełna wtedy i tylko wtedy, gdy zbiór S jest sprzeczny, zaś S\T jest spełnialny Istnieją różne metody wyboru zbioru T (najczęś ęściej zbiór ten zawiera negację dowodzonego twierdzenia) 21
Rezolucja: strategie zbioru podpierającego (przykład) Sprzeczny zbiór S: Zbiór S\T: p q p r q r r :zbiór T p q q p Rezolucja: strategia liniowa W każdym kroku jedna z przesłanek jest ostatnio wygenerowaną rezolwentą,, a druga jednym z wcześniejszych wniosków w (rezolwent) lub klauzulą początkow tkową Dowód d rozpoczyna się od dowolnie wybranej klauzuli początkowej (choć najlepiej aby było o to twierdzenie do udowodnienia) Dowód d ma charakter przejrzysty i ciągły - ostatni wniosek jest przesłank anką w kolejnym kroku Strategia zupełna Można łączy czyć ze strategią zbioru uzasadnień 22
Rezolucja: strategia liniowa (przykład) p q p r q r r p q q p r r Rezolucja: strategia źródłowa W każdym kroku przynajmniej jedna przesłanka jest klauzulą początkow tkową (a nie rezolwentą) Odmiana strategii liniowej (bardziej rygorystyczna!) Strategia niezupełna! na! Strategia zupełna w klasie klauzul Horna 23
Rezolucja: strategia źródłowa (niezupełno ność) Zbiór r sprzeczny: p q p q p q p q q p gdy liniowa! q p p q p q q itd. Rezolucja: strategia preferencji jednostkowej W każdym kroku przynajmniej jedna przesłanka powinna być klauzulą pojedynczą (pojedynczy literał) Strategia zupełna Strategia niezupełna, na, gdy przynajmniej jedna przesłanka zawsze musi być klauzulą pojedynczą wtedy jest to tzw. strategia jednostkowa (zupełna w klasie klauzul Horna!) 24
Rezolucja: strategia preferencji jednostkowej (przykład) p q p r q r r p q r Rezolucja: strategie dowodzenia Strategie wyboru Strategia liniowa (ang. linear resolution) Strategia źródłowa (ang. input resolution) Strategia preferencji jednostkowej (ang. unit preference resolution) Strategia zbioru podpierającego/zbioru uzasadnień (ang. set of support resolution) Przeszukiwanie wszerz (saturacja) Strategie eliminacji usuwanie klauzul zawierających czyste literały y (brak drugiej klauzuli zawierającej literał komplementarny) usuwanie tautologii (klauzul zawierających literały y komplementarne) usuwanie klauzul pochłoni oniętych 25
Rezolucja: strategie eliminacji Usuwanie klauzul zawierających czyste literały y (brak innej klauzuli zawierającej literał komplementarny) p l q l p q r p q r l l q r?? r Rezolucja: strategie eliminacji Usuwanie tautologii (klauzul zawierających parę literałów w komplementarnych) Niespełnialny zbiór r klauzul pozostaje niespełnialny nialny nawet, jeśli usuniemy z niego wszystkie tautologie Każda nowa rezolwenta na dowolnym etapie procesu rezolucji może e być tautologią 26
Rezolucja: strategie eliminacji Usuwanie klauzul pochłoni oniętych Pochłanianie: klauzula C pochłania klauzulę D wtedy i tylko wtedy, gdy zbiór r literałów w klauzuli C jest podzbiorem zbioru literałów D Przykład Klauzule: Zbiory literałów: C = p q C = { p, q } D = p q r D = { p, q, r } Skoro mamy C D, to C pochłania D. Rezolucja: strategie eliminacji Usuwanie klauzul pochłoni oniętych c.d. Niespełnialny zbiór r klauzul pozostaje niespełnialny nialny nawet, jeśli usuniemy z niego klauzulę pochłoni onięta przez inną klauzulę Każda nowa rezolwenta na dowolnym etapie procesu rezolucji może e być pochłoni onięta przez inną klauzulę Pełno ność strategii eliminacji tautologii i klauzul pochłoni oniętych zależy y od sposobu usuwania klauzul (np. połą łączenie z saturacją gwarantuje pełno ność) 27