Inteligentne systemy decyzyjne: Uczenie maszynowe sztuczne sieci neuronowe

Transkrypt

1 Inteligentne systemy decyzyjne: Uczenie maszynowe sztuczne sieci neuronowe Trening jednokierunkowych sieci neuronowych wykład 2. dr inż. PawełŻwan Katedra Systemów Multimedialnych Politechnika Gdańska

2 Model matematyczny sztucznego neuronu Wartość wyjściowa neuronu o jest określana w oparciu o wzór: o=f(net), gdzie: w wektor wag połączeń wejściowych x wektor wartości sygnałów wejściowych f funkcja aktywacji net=w T x Dodatkową wagą jest waga progowa, dlatego wektory w i x określone są jako: w=[w 1,w 2,...,w n,w n+1 ], x=[x 1,x 2,...,x n,-1]

3 Topologia sieci jednokierunkowej - sieci jednokierunkowe x=[x 1,x 2,...,x N,-1] wektor wejściowy y=[y 1,y 2,...,y I,-1] wektor wyjściowy pierwszej warstwy ukrytej z=[z 1,z 2,...,z J,-1] wektor wyjściowy drugiej warstwy ukrytej o=[o 1,o 2,...,o K,-1] wektor wyjściowy Macierze U,V,W zawierają Współczynniki wagowe dla wszystkich Połączeń synaptycznych

4 Metoda treningu sieci trening z nadzorem jednokierunkowej

5 Reguła a delta Rozważmy jednokierunkową sieć neuronową składaj adającą się z dwóch warstw: ukrytej, zawierającej J neuronów oraz wyjściowej, zawierającej K neuronów x = [x 1,..., x I-1, -1] T y = [y 1,..., y J-1, -1] T o = [o 1,..., o K ] T macierze wag warstw: wektory pochodnych funkcji aktywacji: f y = [f 1 (net 1 ), f 2 (net 2 ),..., f J (net J )] T f o = [f 1 (net 1 ), f 2 (net 2 ),..., f K (net J )] T

6 Reguła a delta cd. Metoda uczenia jest metodą nadzorowaną,, dlatego można określi lić miarę między wskazaniem sieci o,, a oczekiwaną odpowiedzią sieci d,, czyli tzw. funkcję błędu. Najczęściej stosuje się odl.średniokwadratową: gdzie p jest liczbą wektorów w zb. uczącym Błąd ten liczony jest dla wszystkich wektorów ze zbioru uczącego błąd skumulowany. Podczas treningu prezentowane są kolejno wektory uczące, wówczas funkcja błędu dla p tego wektora przyjmuje postać:

7 Reguła a delta cd. W dalszej częś ęści przyjęto, że e rozważania ania dotyczą pojedynczego p-tego wektora ze zbioru uczącego. cego. Niech zdefiniowany zostanie operator: wtedy: Funkcja błędu: przyjmuje postać: - warstwa wyjściowa - warstwa ukryta

8 Reguła a delta cd. wtedy: gdzie wprowadzono pomocniczy operator: Takie określenie błędu nakłada ograniczenia na postać funkcji aktywacji, która musi być ciągła i różniczkowalna. Reguła DELTA mówi, że aktualizacja macierzy wag V i W następuje wg zależności: gdzie ɳ jest współczynnikiem szybkości treningu.

9 Reguła a delta cd. W wyniku podstawienia wcześniejszych wyników otrzymujemy: Wagi w kolejnym kroku nauki są równe wagom w poprzednim kroku powiększonym proporcjonalnie do iloczynów wektorów wejściowych warstw i wektorów błędu działania sieci. Minimalizacja funkcji błędu jest oparta o metody gradientowe i nie gwarantuje zbieżności nauki.

10 Zbieżno ność procesu nauki Możliwo liwość zatrzymania w minimum lokalnym funkcji błędu Możliwo liwość zatrzymania nauki w płaskim p obszarze funkcji błędu przy zbyt małej wartości współczynnika nauki Aby poprawić właściwości nauki stosuje się dodatkowy składnik MOMENTU,, uzależniaj niający przyrost wag od przyrostu wag w poprzednim kroku nauki Po uwzględnieniu składnika momentu, wzory wartości macierzy wag w kroku n+1 wyglądaj dają następuj pująco: składnik momentu

11 Dodatkowe właściwow ciwości momentu składnik momentu Moment wprowadza do algorytmu element bezwładno adności, który zmniejsza chwilowe i gwałtowne zmiany kierunku wskazywanego przez gradient funkcji błęb łędy Uczenie nie wchodzi w płytkie p minima lokalne Zdolność do znacznego przyspieszania nauki dla płaskich p obszarów w funkcji błęb łędu

12 Właściwy dobór r współczynnik czynników nauki Właściwy dobór r współczynnik czynników w nauki umożliwia wyjście z minimów w lokalnych funkcji błęb łędu i szybkie osiągni gnięcie wartości bliskich jej minimum globalnego.

13 Algorytm wstecznej propagacji błęb łędu KROK 1: Inicjalizacja macierzy wag V i W małymi losowyim wartościami z zakresu (-1,1) Ustawianie parametrów nauki sieci: - funkcji aktywacji neuronów (razem z λ) - parametrów nauki -ɳi α KROK 2: Ustawienie wartości błędu skumulowanego na E=0 dla każdego nowego cyklu treningowego KROK 3: Wybór dowolnego wektora ze zbioru uczącego, najlepiej wybór losowy. Ustawienie oczekiwanej odpowiedzi sieci d.

14 Algorytm wstecznej propagacji błęb łędu KROK 4: Wyznaczanie odpowiedzi warstw sieci y, o (przetwarzanie wektora wejściowego przez sieć) KROK 5: Obliczanie sygnałów błędów dla kolejnych warstw KROK 6: Obliczanie nowych wartości wag, z uwzględnieniem momentu lub bez (w zależności od wyboru) KROK 7: Obliczana jest wartość funkcji błędu dla wektora x. Wartość ta dodawana jest do wartości błędu skumulowanego E.

15 Algorytm wstecznej propagacji błęb łędu KROK 8: Jeśli wektor x nie jest ostatnim wykorzystywanym wzorcem, to sterowanie wraca do kroku 3. Jeśli wektor x jest ostatnim wektorem uczącym to sterowanie przechodzi kroku 9. KROK 9: Sprawdzany jest warunek czy wartość błędu skumulowanego jest większa od zadanej progowej wartości E MAX. Jeśli tak to trening się zatrzymuje. Jeśli warunek ten nie jest spełniony to następuje kolejny cykl treningowy i powrót do kroku 2.

16 Właściwości generalizacyjne Sieć można przeuczyć,, gdy algorytm powtarza się w zbyt wielu krokach Sieć przeuczona posiada bardzo dobre właściwow ciwości reagowania na obiekty ze zbioru treningowego ale nie umie sobie dobrze radzić z przykładami spoza zbioru uczącego cego Metoda przeciwdziałania ania sprawdzanie działania ania sieci dla danych walidacyjnych dane treningowe (X,Y) dane walidacyjne (X,Y) Sieć neuronowa obserwacja wartości błędu walidacyjnego

17 Właściwości generalizacyjne błąd walidacyjny błąd na zbiorze treningowym Kontrola błęb łędu walidacyjnego w każdym kroku nauki uniemożliwia przetrenowanie sieci utrzymuje zdolności generalizacyjne Gdy błąb łąd d walidacyjny rośnie przez pewna założon oną liczbę cyklów w (Epochs( Epochs) ) nauka sieci powinna być przerywana

18 Właściwości generalizacyjne dane treningowe należące do dwóch kategorii zagadnienie klasyfikacyjne? 0? sieć przetrenowana sieć z zachowanymi właściwościami general.