Sztuczna inteligencja

Transkrypt

1 Sztuczna inteligencja Wykład 7. Architektury sztucznych sieci neuronowych. Metody uczenia sieci. źródła informacji: S. Osowski, Sieci neuronowe w ujęciu algorytmicznym, WNT 1996

2 Podstawowe architektury sieci neuronowych istnieją róŝne sposoby łączenia neuronów ze sobą i ich współdziałania istnieją róŝne sposoby doboru wag połączeń Sieć jednokierunkowa jednowarstwowa - neurony ułoŝone w jednej warstwie - w węzłach wejściowych nie zachodzi Ŝaden proces obliczeniowy, nie tworzą więc warstwy neuronów - przepływ sygnałów jednokierunkowy: od warstwy wejściowej do wyjściowej - najczęściej pełne połączenia (kaŝdy węzeł z kaŝdym neuronem) - nazwa sieci określona przez sposób doboru wag oraz wybór metody uczenia (np. perceptron jednowarstwowy, sieć Kohonena itp.)

3 Sieć jednokierunkowa wielowarstwowa (na rysunku: sieć dwuwarstwowa) - co najmniej jedna warstwa ukryta neuronów - pełne połączenia między warstwami (choć nie zawsze tzw. połączenia lokalne lub częściowe) - sygnały wejściowe podawane są na pierwszą warstwę ukrytą neuronów, a te z kolei stanowią sygnały źródłowe dla warstwy kolejnej - często uŝywa się nazwy: perceptron wielowarstwowy - często uŝywa się sigmoidalnych funkcji aktywacji:

4 Sieci rekurencyjne - występuje sprzęŝenie zwrotne między warstwami wyjściowymi a wejściowymi - na rysunku: sieć jednowarstwowa, w której sygnały wyjściowe neuronów tworzą jednocześnie wektor wejściowy sieci dla kolejnego cyklu - jest to tzw. sieć Hopfielda, w której nie występuje sprzęŝenie neuronu od własnego sygnału wyjściowego - z -1 : tzw. jednostkowy operator opóźnienia

5 - na rysunku: sieć rekurencyjna z ukrytą warstwą neuronów - sygnały wejściowe: neurony x 1... x N - neurony numerowane od 1 do M stanowią warstwę wyjściową - warstwa ukryta: neurony od 1 do K - sygnały warstwy wyjściowej i ukrytej neuronów (łącznie z ew. neuronami wejściowymi) stanowią wektor wejściowy sieci dla kolejnego cyklu obliczeniowego Proces ustalania się sygnałów wyjściowych jest w przypadku sieci rekurencyjnych procesem dynamicznym.

6 Podstawowe metody uczenia sieci neuronowych zdolność adaptacyjna waŝna właściwość sieci neuronowych celem procesu uczenia jest dobór wag połączeń, aby jak najlepiej odwzorować dane wejściowe w wyjściowe dla danego problemu proces iteracyjny: k numer cyklu W ij (k) stara waga synaptyczna W ij (k+1) nowa waga synaptyczna, łącząca neuron j-ty z i-tym. Uczenie pod nadzorem (z nauczycielem) uczenie kontrolowane jest przez zewnętrznego nauczyciela sygnałom uczącym towarzyszą wartości Ŝądane na wyjściu sieci

7 KaŜdemu wektorowi wejściowemu towarzyszy zadany wektor wyjściowy Dane uczące podawane są w postaci par, dla k = 1, 2,..., p, gdzie p jest liczbą wzorców uczących. JeŜeli wektorowi wejściowemu x(k) odpowiada Ŝądana postać wektora wyjściowego d(k) sieci oraz uzyskane wyjście y(k), to moŝemy zdefiniować funkcję błędu dla kaŝdej pary uczącej:

8 Cel uczenia: zminimalizowanie funkcji błędu Najczęstsza postać funkcji błędu (błąd średni kwadratowy): określana dla wszystkich M neuronów wyjściowych i par uczących p. Minimalizacja funkcji: najczęściej gradientowe metody optymalizacji, w których zmiana wag odbywa się pod wpływem gradientu funkcji celu: Najczęściej stosuje się tzw. metodę największego spadku, w której współczynnik uczenia. ZałoŜenie: funkcja aktywacji jest ciągła. reguła delta: uaktualnianie wag kaŝdorazowo po prezentacji jednej pary uczącej skumulowana reguła delta: uaktualnianie wag po prezentacji wszystkich par uczących

9 Dla nieciągłych funkcji aktywacji (np. funkcja skokowa): reguła perceptronu oraz reguła Widrowa-Hoffa. Wykorzystują one jedynie informacje o aktualnej wartości wyjścia i wartości Ŝądanej. Reguła perceptronu Przy zadanych wstępnie wartościach wag W ij oraz W i0, prezentuje się na wejściu wektor uczący x i oblicza wartość sygnału wyjściowego y i. Aktualizacja wag w wyniku porównania wartości y i z wartością Ŝądaną d i : jeŝeli y i = d i, to wagi pozostają nie zmienione jeŝeli y i = 0 a d i = 1, to W ij (k+1) = W ij (k) + x j oraz W i0 (k+1) = W i0 (k) +1 jeŝeli y i = 1 a d i = 0, to W ij (k+1) = W ij (k) - x j oraz W i0 (k+1) = W i0 (k) -1 Reguła Widrowa-Hoffa Dobór wag dla neuronu dowolnego typu: (przy wartościach binarnych, reguła ta przechodzi w regułę perceptronu)

10 Uczenie z krytykiem (inaczej: ze wzmocnieniem) - nie mamy informacji o wartościach Ŝądanych na wyjściu, a jedynie informację, czy dana akcja (np. zmiana wag) dała wynik poŝądany (wynik pozytywny) czy teŝ nie (negatywny) - jeŝeli działanie podjęte przez układ uczący dało wynik pozytywny, następuje wzmocnienie tendencji do właściwego zachowania się systemu w podobnych sytuacjach w przyszłości - w przypadku wyniku negatywnego, następuje osłabienie tendencji Krytyk, na podstawie aktualnego stanu środowiska i predykcji co do jego przyszłych zmian (wypracowanej na podstawie aktualnej wiedzy), przekazuje sygnał sterujący umoŝliwiający podjęcie odpowiedniej akcji, wpływającej na stan środowiska. Układ z opóźnieniem: sygnał sterujący określany jest na podstawie stanu środowiska w chwilach poprzednich

11 Wskaźnik jakości uczenia: E operator wartości oczekiwanej γ wpływa na zakres zmian poprzednich akcji uwzględnianych w sterowaniu; przybiera wartości z przedziału [0,1]; jeŝeli γ=0, to w sterowaniu uwzględniany jest jedynie sygnał początkowy (wynik pierwszej akcji) Układ z opóźnieniem: sygnał sterujący określany jest na podstawie stanu środowiska w chwilach poprzednich Sygnał sterujący: Dobór wag: η współczynnik uczenia, λ współczynnik zapominania (z przedziału [0,1]). uśredniony parametr dopasowania (wzór rekurencyjny),

12 Uczenie samoorganizujące się typu Hebba waga powiązań między dwoma neuronami wzrasta przy jednoczesnym stanie pobudzenia obu tych neuronów, w przeciwnym przypadku maleje (wniosek z obserwacji neurobiologicznych) Model neuronu: Zmiana wag: F funkcja stanu sygnału wejściowego x j (presynaptycznego) oraz wyjściowego y i (postsynaptycznego) Uczenie korelacyjne: siła połączenia międzyneuronowego wzrasta przy istnieniu korelacji między sygnałami presynaptycznym i postsynaptycznym

13 Klasyczne ujęcie Hebba (bez nauczyciela): Z nauczycielem: Wada: przy powtarzającym się identycznym wymuszeniu x j, nastąpi wykładniczy wzrost wag. Wprowadzamy więc współczynnik zapominania γ: Modyfikacja: tzw. uogólniona reguła Oji (dość skomplikowana pomijamy) Uczenie dekorelacyjne (antyhebbowskie) siła połączenia wzrasta, gdy sygnały presynaptyczny i postsynaptyczny są zdekorelowane (jeden pobudzony, drugi zgaszony) jest zawsze stabilne (nie wprowadza nieograniczonej moŝliwości wzrostu wag):

14 Uczenie samoorganizujące się typu konkurencyjnego neurony współzawodniczą między sobą, aby stać się pobudzonymi tylko jeden neuron moŝe być aktywny, pozostałe są w stanie spoczynkowym (WTA Winner Takes All) grupa neuronów otrzymuje te same sygnały wejściowe x j wstępne wartości wag są losowane sygnały wyjściowe: róŝnią się między sobą (bo wagi są róŝne) zwycięŝa neuron o największej wartości u i (przyjmuje na wyjściu stan 1, pozostałe 0) nie wymaga nauczyciela Procedura: podajemy pierwszy wektor x wyłaniamy zwycięzcę, który przyjmuje stan 1 i dokonujemy aktualizacji jego wag pozostałym, przegranym neuronom (stan 0) wag nie aktualizujemy

15 Aktualizacja wag (tzw. reguła Kohonena): Wagi oraz wektory wejściowe powinny być znormalizowane: PoniewaŜ wektory są unormowane, decyduje róŝnica kątowa (zwycięŝa neuron o wektorze wag najbliŝszym aktualnemu wektorowi wejściowemu) W wyniku zwycięstwa neuronu, następuje adaptacja zbliŝenie jego wag do danego wektora x. Zatem przy podaniu na wejście wielu podobnych wektorów, zawsze będzie zwycięŝał ten sam neuron, czyli jego wagi będą odpowiadać uśrednionym wagom wektorów wejściowych. Efekt: samoorganizacja procesu uczenia neurony dopasowują swoje wagi do grup wektorów wejściowych, tak, Ŝe dla kaŝdej grupy zawsze zwycięŝa ten sam neuron (czyli rozpoznają swoją kategorię). Najczęstsze zastosowania klasyfikacja wektorów.

16 Przykład Wektory wejściowe:

17 Przebieg procesu uczenia: Kółka kolejne połoŝenia wektorów wag dla neuronów zwycięŝających Linie wektory wejściowe Jak widać, zwycięŝały jedynie trzy neurony, jeden pozostał martwy (nie dopasował się do Ŝadnej kategorii wektora wejściowego) Wagi po kilkuset cyklach uczenia: Odzwierciedlają one trzy kategorie wektorów wejściowych: (x 1, x 2 ), (x 3, x 4, x 5 ), (x 6, x 7, x 8 ), na które został podzielony (samoczynnie przez sieć) zbiór wejściowy.

18 Odmiana: WTM (Winner Takes Most) neuron wygrywający przyjmuje stan 1 neurony z nim sąsiadujące otrzymują częściowe pobudzenie Wieloboki Voronoia ilustracja podziału obszaru danych na strefy wpływów poszczególnych neuronów punkt centralny W c (wektor Voronoia) określony jest przez wagi neuronu zwycięŝającego KaŜdy wielobok zawiera obszar najbliŝszy w sensie określonej metryki zbiór punktów centralnych to tzw. ksiąŝka kodowa obszary przyciągania to tzw. słowa kodowe

19 Adaptacyjne kwantowanie wektorowe samoorganizacja proces przypisania kaŝdej wartości wektora wejściowego x do odpowiedniej klasy C kolejny wektor x porównujemy z wektorami W c jeŝeli klasa, do której przynaleŝy wektor x jest zgodna z klasą zwycięskiego wektora W c, to W c jest przesuwany w stronę x w przeciwnym wypadku jest odsuwany Niech W cj (j = 1,..., n) zbiór wektorów Voronoia; x i (i=1,..., p) zbiór wektorów wejściowych. Algorytm: 1. prezentujemy kolejny (k+1)-wszy, losowy wektor x i 2. określamy najbliŝszy mu wektor W c (pod względem metryki) 3. Porównujemy klasę C xi przypisaną wektorowi x i z klasą C Wc zwycięskiego wektora Voronoia jeŝeli równe, to jeŝeli róŝne, to α k współczynniki uczenia z przedziału (0,1); maleją do zera z kolejną iteracją 4. Pozostałych wektorów nie modyfikujemy