Zastosowania sieci neuronowych oraz modeli alternatywnych www.qed.pl/ai/nai23 PLAN WYKŁADU Przykładowe zastosowania sieci Sieci neuronowe a drzewa decyzyjne Sieci neuronowe + zbiory rozmyte
KOMPRESJA OBRAZU Obraz dzielony jest na kwadraty (np. 8x8) Sie neuronowa o 6 wyjciach zamienia dane wejciowe na 6 liczb Liczby s kwantowane i przekazywane drugiej sieci, odtwarzajcej dane oryginalne Kryterium nauki: minimalizacja błdu rekonstrukcji ROZPOZNAWANIE WZORCÓW Wzorce: obrazy, nagrania, dane personalne, sposoby prowadzenia pojazdu, etc. Reprezentacja: Wektor cech (wej do sieci neuronowej) Klasyfikacja wzorców: Klasyfikacja do jednej z istniejcych klas Formowanie klas wzorców Asocjacyjne odtwarzanie wzorców Odtwarzanie wzorców podobnych Uzupełnianie wzorców Odzyskiwanie (czyszczenie) wzorców 2
DRZEWA DECYZYJNE Sieci neuronowe nie s jedynym narzdziem reprezentacji zalenoci Dobór narzdzia zaley od wymogów danego zastosowania Do innych narzdzi nale na przykład metody symboliczne, oparte na regułach bd drzewach decyzyjnych p q q XOR DRZEWA DECYZYJNE Outlook Temp. Humid. Wind Sport? Sunny Hot High Weak No 2 Sunny Hot High Strong No 3 Overcast Hot High Weak Yes 4 Rain Mild High Weak Yes 5 Rain Cold Normal Weak Yes 6 Rain Cold Normal Strong No 7 Overcast Cold Normal Strong Yes 8 Sunny Mild High Weak No 9 Sunny Cold Normal Weak Yes Rain Mild Normal Weak Yes Sunny Mild Normal Strong Yes 2 Overcast Mild High Strong Yes 3 Overcast Hot Normal Weak Yes 4 Rain Mild High Strong No Outlook Sunny Rain Overcast Humidity Wind High Normal Strong Weak Sport=No Sport=Yes 3
DRZEWA DECYZYJNE Sun (%) Temp. ( C) Humid. (%) Wind (km/h) Run (km/h) 3 9 6 2 9 22 85 5 8 3 5 25 95 2 2 4 5 8 3 5 4 7 5 6 3 7 55 4 7 Sun >=65 <35 [35,65) 7 4 8 65 6 5 8 7 4 9 2 Humidity Wind 9 8 7 3 4 2 3 6 4 >=8 <8 >=4 <4 8 6 7 4 2 6 7 8 5 3 3 5 26 55 3 6 4 2 2 95 6 9 Run < 2 Run >= 2 DRZEWA A SIECI NEURONOWE Sun (%) Temp. ( C) Humid. (%) Wind (km/h) Run (km/h) 3 9 6 2 9 22 85 5 8 3 5 25 95 2 2 4 5 8 3.3. -2 -.2.4 -.2.4 5 4 7 5 6 3 7 55 4 7 7 4 8 65 6 5 8 7 4 9 2 9 8 7 3 4 2 3 6 4 8 6 7 4 2 6 7 8 5 3 3 5 26 55 3 6 4 2 2 95 6 9 Mona szuka sieci, która w warstwie wejciowej pobiera wartoci zmiennych Sun, Temp, Humid, Wind, za na wyjciu stara si przyjmowa stosowne wartoci zmiennej Run 4
DRZEWA A SIECI NEURONOWE Drzewa decyzyjne: Reprezentuj zalenoci logiczne Zdania wizane tymi zalenociami mog dotyczy zarówno zmiennych symbolicznych jak i numerycznych Sieci neuronowe: Reprezentuj zalenoci numeryczne Nawet w przypadku opisu powiza symbolicznych, trzeba je przedstawi w formie funkcji rzeczywistych DRZEWA A SIECI NEURONOWE Drzewa decyzyjne: Maj przejrzyst struktur Nie nadaj si jednak do dokładnej reprezentacji zalenoci funkcyjnych Sieci neuronowe: Doskonałe dla wyraania zalenoci funkcyjnych pomidzy rzeczywistymi zmiennymi wejciowymi i wyjciowymi Struktura bardzo cika do interpretacji 5
DRZEWA A SIECI NEURONOWE Drzewa decyzyjne: Doskonałe do uwzgldniania wiedzy eksperckiej......chyba, e wiedza ta wyraana jest w postaci, np., równa róniczkowych Sieci neuronowe: Nieprzystosowane do uwzgldniania w naturalny sposób wiedzy eksperckiej......chyba, e przekłada si ona na wagi powiza oraz funkcje aktywacji ZDANIEM Marvina Minsky ego Some researchers hope that systems modeled on neural nets will quickly overtake more traditional systems based on symbol manipulation. Others believe that symbol manipulation remains the only viable approach. Artificial Intelligence must employ many approaches. The time has come to build systems out of diverse components, some connectionist and some symbolic, each with its own diverse justification. 6
PRZYKŁADOWE POLE DO POPISU Analiza dwiku, obrazu, bd danych multimedialnych, nie moe opiera si ani wyłcznie na sieciach neuronowych, ani na, np., drzewach Konieczne jest połczenie metod numerycznych, naladujcych działanie ludzkich zmysłów, z metodami symbolicznymi, naladujcymi ludzkie rozumowanie ZBIORY ROZMYTE () Metoda reprezentacji wiedzy wyraonej w jzyku naturalnym: Temperatura wynosi 29 o C informacja liczbowa naturalna dla systemów komputerowych Jest do ciepło informacja opisowa naturalna dla człowieka Zamiast dwóch wartoci logicznych (prawda i fałsz), dopuszcza si istnienie nieskoczenie wielu wartoci (odpowiadajcych liczbom rzeczywistym od do ) 8 o C do ciepło temperatura 29 o C 7
ZBIORY ROZMYTE (2) m : X [,] funkcja przynalenoci (funkcja charakterystyczna) zbioru rozmytego A X m(x) Funkcja przynale no ci mówi nam, w jakim stopniu byliby my skłonni uzna dan warto za nale c do zbioru, np. w jakim stopniu powietrze o temperaturze 2 o C mo e by uznane za do ciepłe A ZBIORY ROZMYTE (3) mróz chłodno umiarkowanie ciepło gor co o C 8 o C 4 o C 8 o C 24 o C temperatura 29 o C Pojcia ciepło czy gorco s okrelone w sposób nieostry: trudno jednoznacznie okreli ich granice, ich zakresy mog si czciowo pokrywa 8
FUNKCJE PRZYNALENO CI Funkcje mog mie kształt trapezu... m(x) m(x)...trójkta......ale te inny (np. sigmoidalny)... m(x) m(x)= X m(x)=,5...a zbiór X nie musi by zbiorem liczb rzeczywistych PRZYNALENO A AKTYWACJA Funkcja charakterystyczna odpowiadajca pojciu liczby dodatniej,2,8,6,4,2-5 - -5 5 5 -,2,2,8,6,4,2-5 - -5 5 5 Funkcja przynalenoci dla zbioru rozmytego odpowiadajcego pojciu liczby dodatniej 9
REGUŁY ROZMYTE () Reguły, których przesłanki lub wnioski wyraone s w jzyku zbiorów rozmytych Jeeli x jest małe i y jest rednie, to uruchom alarm Jeeli x jest małe i y jest małe, to ustaw z na du e Jeeli x jest du e, to ustaw z na małe Reguły pochodzce od ekspertów zwykle wyraone s w jzyku nieprecyzyjnym Zbiory rozmyte pozwalaj nam przełoy ten jzyk na konkretne wartoci liczbowe REGUŁY ROZMYTE (2) Sun (%) Temp. ( C) Humid. (%) Wind (km/h) Run (km/h) 3 9 6 2 9 22 85 5 8 3 5 25 95 2 2 4 5 8 3 5 4 7 5 6 3 7 55 4 7 7 4 8 65 6 5 8 7 4 9 2 9 8 7 3 4 2 3 6 4 8 6 7 4 2 6 7 8 5 3 3 5 26 55 3 6 Zbiory rozmyte pozwalaj konstruowa reguły typu je li temperatura jest wysoka i wilgotno jest niska, to s siad biega w jzyku naturalnym, przekładalne jednak na zalenoci numeryczne 4 2 2 95 6 9
REGUŁY ROZMYTE (3) Metoda powizania cech modeli symbolicznych, takich jak np. drzewa decyzyjne, oraz modeli numerycznych, takich jak np. sieci neuronowe W zastosowaniach, wymagany jest proces uczenia kształtów zbiorów rozmytych dla poszczególnych zmiennych wystpujcych w regułach STEROWANIE () sie neuronowa zamiast reguł rozmytych Reguły sterowania wyra one w j zyku zbli onym do naturalnego (tzn. w j zyku zbiorów przybli onych) mo na przetłumaczy na struktur sieci neuronowej. Uczenie wag takiej sieci odpowiada uczeniu parametrów (kształtów) zbiorów rozmytych. Układ fizyczny Cig wartoci uczcych { (x,y ), (x 2,y 2 ),...} Reguły rozmyte Model zbioru reguł (sie neuronowa), uczona na danych treningowych
STEROWANIE (2) sie neuronowa jako symulator procesu fizycznego Układ fizyczny Dobieranie parametrów sterownika rozmytego za pomoc neuronowego symulatora jest szybsze, ta sze i bezpieczniejsze, ni podczas pracy na rzeczywistych urz dzeniach Dane wejciowe Adaptacyjny dobór kształtu zbiorów rozmytych Sterownik rozmyty Sterowanie Wyniki symulacji Model układu (sie neuronowa) FUZZY-NEURO RICE COOKER Fuzzy Logic Controls The Cooking Process Self Adjusting For Rice & Water Conditions Cooks Brown Rice In Addition To White, Sweet (Glutinous, Mochigome) Mixed Variety, Porridge Porridge Setting Can Also Be Used As A Slow Cooker Automatically Cooks and Switches to Keep Warm Will Finish Cooking When You Want It To With Its 24 Hour Preset Timer Fast Cook of White Rice 3 Minutes Faster Than Regular Cycle Additional Reheat Function For Piping Hot Rice Sale Price: $9. 2
3