Sieci neuronowe. Sebastian Bożek.

Transkrypt

1 Siei neuronoe Sebastian Bożek

2 Plan prezentaji. Metoda oblizeń i metoda skojarzeń 2. Neuron biologizny 3. Model sztuznego neuronu 4. Funkja aktyaji rodzaje sztuznyh neuronó 5. Sztuzna sieć neuronoa - zapis ektoroo-maierzoy 6. Metody uzenia siei 7. Przykłady zastosoań - Rozpoznaanie liter - Analiza idm promienioanie - Prognozoanie parametró betonu

3 Konepja sztuznyh siei neuronoyh Komputer Człoiek Pamięć.574e+ 6.e+ 3.5e e e+ 4.79e e e+ Szybkość oblizeń Inteligenja Dokładność Błędy komputeró to błędy programistó / arhitektó Brak zmęzenia serery? Maszyna ykonuje kod programu algorytm. Sztuzna inteligenja personifikaja maszyn rozszerzenie ih działania o obszar do tej pory zarezeroany tylko dla organizmó żyyh kojarzenia, rozpoznaania, klasyfikaji i przeidyania na podstaie skojarzeń.

4 Oblizenia vs kojarzenie Metoda oblizenioa Metoda skojarzeń ) Pomiary lub oblizenia 2) Storzenie zoru 3) Podstaianie danyh do zoru DOŚWIADCZENIE OPARTE NA WIELU PODOBNYCH PRZYKŁADACH f funkja określona zorem f(, 2, 3, 4 ) y Czarna skrzynka y W penyh sytuajah bardziej efektyna ydaje się metoda skojarzeń

5 Przykład: kieroa rajdoy Z jaką prędkośią ejść ten zakręt? Metoda oblizenioa Metoda skojarzeń Dane: masa pojazdu 2 spółzynnik taria - 2 rodzaj naierzhni - 22 ilgotność itd.. 3 doisk spoilera 4 promień krzyizny zakrętu 5 mo silnika itd.. Szukane: Prędkość V = f(,2, 3 ) Kieroa przejehał WIELE PODOBNYCH ZAKRĘTÓW PODOBNYCH WARUNKACH. Jego iedza bazuje głónie na DOŚWIADCZENIU które uzględnia dane.

6 Komórka budująa mózg - NEURON * ~ 5 połązeń Impuls neroy Układ elektronizny?

7 Prosty model neuronu y N i i y N i i i y N i i i b b

8 Funkja aktyaji g N i i i b y f (g)

9 Rodzaje sztuznyh neuronó Neuron linioy f ( g) g f Pereptron, ( g), g g f Neuron sigmoidalny (funkja logistyzna) ( g) e g

10 Sztuzna sieć neuronoa - SSN ANN Artifiial Neural Netork Jednoarstoa (single layer) Wieloarstoa (multilayer)

11 Zapis ektoroo-maierzoy 3,2 3, 2,2 2,,2, W y y y 2 b b b b W y T f b y y f y y y

12 Rodzaje uzenia siei neuronoyh Uzenie przystosoyanie się siei do zadanego zbioru (iągu) uząego Uzenie z nauzyielem Znana jest pożądana odpoiedź siei na przedstaiony sygnał ejśioy. Ciąg uząy to iąg danyh ejśioyh (inputs) i skojarzonyh z nimi pożądanyh odpoiedzi (targets). Przykład: yhoanie Uzenie bez nauzyiela Pożądana odpoiedź (targets) nie jest znana. Samouzenie polega na utralaniu harakterystyznyh eh siei. Przykład: Krystalizoanie się śiatopoglądu.

13 Uzenie z nauzyielem reguła Delta Ciąg uząy n=,2, L z n, n yn Funkja błędu Q 2 L z j y j j 2 Q, 2 2 Q j i j 2 z y 2 Q - stała uzenia j j i j j

14 Metoda momentum Q j i j Za małe poolne uzenie Za duże osylaje okół minimum Metoda momentum korekta ag edług reguły i j Q j i j i ( j) Nadanie punktoi reprezentująemu agi penego momentu bezładnośi. Gdy kolejne gradienty skazują ten sam kierunek, ih działanie się kumuluje i przyrosty ag stają się oraz iększe. Gdy gradienty są przeine, ruh punktu jest hamoany.

15 Przykład Rozpoznaanie i klasyfikaja Sieć rozpoznająa litery alfabetu

16 Wektoroy zapis obrazu litery B =?

17 Arhitektura siei B Y(B) B W Y(B) T f,, ) ( g g g f

18 Przykład 2: Prognozoanie Sieć yznazająa proentoe udziały poszzególnyh izotopó promieniotórzyh na podstaie idm próbek zmierzonyh detektorem syntylayjnym

19 Dyfuzja znaznikó promieniotórzyh Badanie dyfuzji poszzególnyh pieriastkó stali manganoo-hromoej z ykorzystaniem znaznikó promieniotórzyh

20 Amplituda sygnału - intensyność Widmo mierzone detektorem syntylayjnym izotop Cr Mn 5 59 Fe 54 E [kev ] T [ dni] / Detektor syntylayjny ehuje się słabą zdolnośią rozdzielzą, jednak jest tańszy od dokładniejszyh detektoró półprzeodnikoyh Numer kanału - Energia promienioania Widmo ałośi jest peną kombinają idm składoyh

21 Wektoroy opis idma k kanałó detektora plik.tt kolumna k lizb Wektor k-ymiaroej przestrzeni P X P P X, X,, 2 X P k Normalizaja P k i X P P X i f ( ) d

22 Wersory idmoe P Cr k i X Cr Cr X i Mn k i X Mn Mn X i Cr k i X Cr Cr X i Wektor idmoy próbki jest sumą ektoró idmoyh składoyh izotopó P Cr, Mn, Fe stężenia % Cr Cr Mn Cr Fe Mn Mn Fe Fe Cr Mn Fe

23 Arhitektura siei k k k k k y W Dla liznika posiadająego k kanałó sieć ma k ejść (inputs) Lizba neuronó, i tym samym lizba yjść (outputs), odpoiada lizbie analizoanyh izotopó Sieć jednoarstoa

24 Ciąg uząy r mn fe rand r r rand mn Współzynniki stężeń iągu uząym są generoane przy użyiu generatora lizb losoyh P Cr Cr Mn Mn Fe Fe k y 2 3 z Cr Mn Fe Q j i j 2 z y 2 Q j j j i j

25 Przykład 3: Prognozoanie Sieć prognozująa fizyzne łaśiośi betonu

26 Wytrzymałość betonu Wytrzymałość najażniejsza eha betonu. Mierzona jest zazyzaj po normoym zasie dojrzeania. Wytrzymałość betonu zależy od ielu zynnikó. Do prognozoania ytrzymałośi na zgnianie oraz nasiąkliośi betonu zastosoano 2 arstoą sieć neuronoą z sigmoidalną funkją aktyaji neuronó. Wspomagane komputeroo prognozoanie fizyznyh łaśiośi betonu o ysokiej ytrzymałośi, zaierająego nanoząstki Fe2O3, Cement, apno beton, rzesień-październik 22 r., Nr 5,.ementapnobeton.pl

27 Arhitektura siei INPUTS C zaartość ementu N zaartość nanoząstek AG rodzaj kruszya W zaartość ody S ilość superplastyfikatora CM rodzaj środoiska dojrzeania AC zas dojrzeania NT lizba pokazó TARGETS F F ytrzymałość na zginanie F W nasiąkliość

28 Literatura J. Żurada, M. Barski, W. Jędruh, Sztuzne siei neuronoe, PWN 996 S. Ossoski, Siei neuronoe do przetarzania informaji, Wyd. Politehniki Warszaskiej 26 R. Tadeusieiz, Siei neuronoe, Akademika Ofiyna Wydaniza, 993

29 Zagadnienia do egzaminu zęść /3. Wymień i sharakteryzuj rodzaje sztuznyh neuronó. 2. Tój zespół opraouje komputeroy program do gry kółko i krzyżyk. Znaki kółka i krzyżyka rozdzielzośi (rysunek) grająy będzie rysoał na tableie. Toim zadaniem jest zbudoanie siei neuronoej odróżniająej kółko od krzyżyka. Zaproponuj najprostszy model siei neuronoej realizująej takie zadanie. Dołąz rysunek przedstaiająy arhitekturę tej siei.

30 Zagadnienia do egzaminu zęść 2/3 3. Na ejśie pereptronu (rysunek) trafia sygnał Współzynniki agoe neuronu ynoszą odpoiednio: =.5, 2 =.3, 3=-.2. Obliz odpoiedź y pereptronu. T 4. Przedsta klasyzny shemat uzenia neuronu (regułę delta ) oraz metodę momentum.

31 Zagadnienia do egzaminu zęść 3/3 5. W kontekśie sztuznyh siei neuronoyh yjaśnij następująe pojęia: a) sygnały ejśioe (dane), (input variable) b) arsta ejśioa, (input layer) ) arsta ukryta, (hidden layer) d) arsta yjśioa, (output layer) e) sygnały yjśioe (yniki), (output) f) artość progoa, (bias) g) zadana (ymagana) odpoiedź neuronu na sygnał, (target) h) iąg uząy, (training set) i) iąg testująy,(testing set) j) epoka, (epoh) k) aga neuronu, (eight) l) szybkość uzenia, (learning rate) m) momentum, (momentum fator)