Sieci neuronowe. Sebastian Bożek.

Podobne dokumenty
Sieci neuronowe. Sebastian Bożek.

Uniwersytet Zielonogórski Wydział Elektrotechniki, Informatyki i Telekomunikacji Instytut Sterowania i Systemów Informatycznych

Sztuczna Inteligencja Tematy projektów Sieci Neuronowe

Podstawy Sztucznej Inteligencji (PSZT)

IMPLEMENTACJA SIECI NEURONOWYCH MLP Z WALIDACJĄ KRZYŻOWĄ

Politechnika Gdańska Wydział Elektrotechniki i Automatyki Katedra Inżynierii Systemów Sterowania. Metody sztucznej inteligencji

Metody Sztucznej Inteligencji II

Podstawy sztucznej inteligencji

Literatura. Sztuczne sieci neuronowe. Przepływ informacji w systemie nerwowym. Budowa i działanie mózgu

Inteligentne systemy przeciw atakom sieciowym

Temat: Sztuczne Sieci Neuronowe. Instrukcja do ćwiczeń przedmiotu INŻYNIERIA WIEDZY I SYSTEMY EKSPERTOWE

Algorytmy wstecznej propagacji sieci neuronowych

Politechnika Warszawska

A Zadanie

SIECI NEURONOWE Liniowe i nieliniowe sieci neuronowe

PRZEWODNIK PO PRZEDMIOCIE

Zastosowanie optymalizacji rojem cząstek (PSO) w procesie uczenia wielowarstwowej sieci neuronowej w problemie lokalizacyjnym

Sieci neuronowe i algorytmy uczenia Czyli co i jak andrzej.rusiecki.staff.iiar.pwr.wroc.pl s.

MATLAB Neural Network Toolbox przegląd

8. Neuron z ciągłą funkcją aktywacji.

Metody klasyfikacji i rozpoznawania wzorców. Najważniejsze rodzaje klasyfikatorów

1. Historia 2. Podstawy neurobiologii 3. Definicje i inne kłamstwa 4. Sztuczny neuron i zasady działania SSN. Agenda

Zastosowania sieci neuronowych

Uczenie sieci neuronowych i bayesowskich

Uczenie Wielowarstwowych Sieci Neuronów o

Algorytm wstecznej propagacji błędów dla sieci RBF Michał Bereta

MATLAB Neural Network Toolbox uczenie sieci (dogłębnie)

Uczenie sieci typu MLP

DEKOMPOZYCJA HIERARCHICZNEJ STRUKTURY SZTUCZNEJ SIECI NEURONOWEJ I ALGORYTM KOORDYNACJI

Grupa. Nr ćwicz. Celem ćwiczenia jest poznanie wybranych metod pomiaru właściwości rezystorów, kondensatorów i cewek.

Zastosowania sieci neuronowych

METODY INŻYNIERII WIEDZY

ĆWICZENIE 5: Sztuczne sieci neuronowe

SID Wykład 8 Sieci neuronowe

SIECI REKURENCYJNE SIECI HOPFIELDA

Sztuczne sieci neuronowe

Wstęp do sztucznych sieci neuronowych

Widzenie komputerowe

Podstawy Sztucznej Inteligencji

Metody jakościowe i ilościowe na usługach wyceny nieruchomości

Systemy pomiarowo-diagnostyczne. Metody uczenia maszynowego wykład III 2016/2017

MODELOWANIE OSCYLACYJNYCH SIECI NEURONOWYCH W ŚRODOWISKU PROGRAMISTYCZNYM MATLAB

Algorytmy sztucznej inteligencji

ELEMENTY SZTUCZNEJ INTELIGENCJI. Sztuczne sieci neuronowe

Rozdział 1 Sztuczne sieci neuronowe. Materiały do zajęć dydaktycznych - na podstawie dokumentacji programu Matlab opracował Dariusz Grzesiak

SYSTEMY UCZĄCE SIĘ WYKŁAD 5. UCZENIE SIĘ APROKSYMACJI FUNKCJI MODELE LINIOWE

synaptycznych wszystko to waży 1.5 kg i zajmuje objętość około 1.5 litra. A zużywa mniej energii niż lampka nocna.

R690. Zawór membranowy Tworzywo sztuczne

Wstęp do teorii sztucznej inteligencji Wykład III. Modele sieci neuronowych.

BIOCYBERNETYKA SIECI NEURONOWE. Akademia Górniczo-Hutnicza. Wydział Elektrotechniki, Automatyki, Informatyki i Inżynierii Biomedycznej.

Uniwersytet w Białymstoku Wydział Ekonomiczno-Informatyczny w Wilnie SYLLABUS na rok akademicki 2012/2013

Ćw. 18: Pomiary wielkości nieelektrycznych II

WYZNACZANIE WARTOŚCI PODSTAWOWYCH PARAMETRÓW TECHNICZNYCH NOWOCZESNYCH KOMBAJNÓW ZBOŻOWYCH PRZY UŻYCIU SSN

Temat wykładu: Całka nieoznaczona. Kody kolorów: żółty nowe pojęcie pomarańczowy uwaga kursywa komentarz * materiał nadobowiązkowy

sieci jednowarstwowe w MATLABie LABORKA Piotr Ciskowski

Symulacja sygnału czujnika z wyjściem częstotliwościowym w stanach dynamicznych

Efekt Halla. Cel ćwiczenia. Wstęp. Celem ćwiczenia jest zbadanie efektu Halla. Siła Loretza

CYFROWE PRZETWARZANIE SYGNAŁU PRZETWORNIKA OBROTOWO-IMPULSOWEGO

ZAKRES AKREDYTACJI LABORATORIUM BADAWCZEGO Nr AB 504

Zespół Szkół Łączności w Gdańsku

Elementy inteligencji obliczeniowej

SPM Scanning Probe Microscopy Mikroskopia skanującej sondy STM Scanning Tunneling Microscopy Skaningowa mikroskopia tunelowa AFM Atomic Force

Wydział Elektryczny, Katedra Maszyn, Napędów i Pomiarów Elektrycznych Laboratorium Przetwarzania i Analizy Sygnałów Elektrycznych

LOKALNA ANALIZA CZĘSTOTLIWOŚCIOWA SYGNAŁÓW. 1. Definicja 2. Okna 3. Transformacja Gabora. Spis treści

KONKURS PRZEDMIOTOWY Z FIZYKI dla uczniów gimnazjów. Schemat punktowania zadań

SIECI NEURONOWE RADIALNE W ESTYMACJI ZMIENNYCH STANU NIELINIOWEGO UKŁADU DWUMASOWEGO

wiedzy Sieci neuronowe

LABORATORIUM POMIARY W AKUSTYCE. ĆWICZENIE NR 4 Pomiar współczynników pochłaniania i odbicia dźwięku oraz impedancji akustycznej metodą fali stojącej

Sztuczne sieci neuronowe Ćwiczenia. Piotr Fulmański, Marta Grzanek

OCENA DZIAŁANIA AE. METODY HEURYSTYCZNE wykład 4 LOSOWOŚĆ W AE KRZYWE ZBIEŻNOŚCI ANALIZA STATYSTYCZNA:

CZAZ GT BIBLIOTEKA FUNKCJI PRZEKAŹNIKI, LOGIKA, POMIARY. DODATKOWE ELEMENTY FUNKCJONALNE DSP v.2

Oprogramowanie Systemów Obrazowania SIECI NEURONOWE

Sieci neuronowe w Statistica. Agnieszka Nowak - Brzezioska

Zagadnienia optymalizacji i aproksymacji. Sieci neuronowe.

Teoria przetwarzania A/C i C/A.

ZACHODNIOPOMORSKI UNIWERSYTET TECHNOLOGICZNY W SZCZECINIE

Regulamin konkursu Zimowe szaleństwo z Mazda Finance. Postanowienia ogólne

Samopropagująca synteza spaleniowa

Elementy mechaniki relatywistycznej

Sztuczne sieci neuronowe. Uczenie, zastosowania

Ćw. 18: Pomiary wielkości nieelektrycznych II

Sieci neuronowe w Statistica

Przykładowa analiza danych

KALIBRACJA BEZ TAJEMNIC

Rodzaje zadań w nauczaniu fizyki

Sztuczne siei neuronowe - wprowadzenie

Inteligencja obliczeniowa Laboratorium 9: Sieci neuronowe.

NEURAL NETWORK ) FANN jest biblioteką implementującą SSN, którą moŝna wykorzystać. w C, C++, PHP, Pythonie, Delphi a nawet w środowisku. Mathematica.

HAŁASU Z UWZGLĘDNIENIEM ZJAWISK O CHARAKTERZE NIELINIOWYM

MODELOWANIE RZECZYWISTOŚCI

Streszczenie. Słowa kluczowe: modele neuronowe, parametry ciągników rolniczych

Instrukcja do ćwiczenia jednopłaszczyznowe wyważanie wirników

Definicja szybkości reakcji

Ćw. nr 31. Wahadło fizyczne o regulowanej płaszczyźnie drgań - w.2

FUNKCJA KWADRATOWA. Poziom podstawowy

POLITECHNIKA OPOLSKA WYDZIAŁ BUDOWNICTWA Katedra Inżynierii Materiałów Budowlanych Laboratorium Materiałów Budowlanych. Raport LMB 326/2012

Imię, nazwisko NACIONALINIS EGZAMINŲ CENTRAS. Klasa Kod ucznia

Podstawowe funkcje biblioteki narzędziowej Neural Network Toolbox. Version 5 pakietu MATLAB v. 6

Ćwiczenie 11. Podstawy akwizycji i cyfrowego przetwarzania sygnałów. Program ćwiczenia:

Ćw. 18: Pomiary wielkości nieelektrycznych II

Transkrypt:

Siei neuronoe Sebastian Bożek http://.biofizyk.pl

Plan prezentaji. Metoda oblizeń i metoda skojarzeń 2. Neuron biologizny 3. Model sztuznego neuronu 4. Funkja aktyaji rodzaje sztuznyh neuronó 5. Sztuzna sieć neuronoa - zapis ektoroo-maierzoy 6. Metody uzenia siei 7. Przykłady zastosoań - Rozpoznaanie liter - Analiza idm promienioanie - Prognozoanie parametró betonu

Konepja sztuznyh siei neuronoyh Komputer Człoiek Pamięć.574e+ 6.e+ 3.5e+ 4.2484e+ 5.3758e+ 4.79e+ 4.4983e+ 6.5373e+ Szybkość oblizeń http://.ikipedia.pl Inteligenja Dokładność Błędy komputeró to błędy programistó / arhitektó Brak zmęzenia serery? Maszyna ykonuje kod programu algorytm. Sztuzna inteligenja personifikaja maszyn rozszerzenie ih działania o obszar do tej pory zarezeroany tylko dla organizmó żyyh kojarzenia, rozpoznaania, klasyfikaji i przeidyania na podstaie skojarzeń.

Oblizenia vs kojarzenie Metoda oblizenioa Metoda skojarzeń ) Pomiary lub oblizenia 2) Storzenie zoru 3) Podstaianie danyh do zoru DOŚWIADCZENIE OPARTE NA WIELU PODOBNYCH PRZYKŁADACH 2 3 4 f funkja określona zorem f(, 2, 3, 4 ) y 2 3 4 Czarna skrzynka y W penyh sytuajah bardziej efektyna ydaje się metoda skojarzeń

Przykład: kieroa rajdoy Z jaką prędkośią ejść ten zakręt? Metoda oblizenioa Metoda skojarzeń Dane: masa pojazdu 2 spółzynnik taria - 2 rodzaj naierzhni - 22 ilgotność itd.. 3 doisk spoilera 4 promień krzyizny zakrętu 5 mo silnika itd.. Szukane: Prędkość V = f(,2, 3 ) Kieroa przejehał WIELE PODOBNYCH ZAKRĘTÓW PODOBNYCH WARUNKACH. Jego iedza bazuje głónie na DOŚWIADCZENIU które uzględnia dane.

Komórka budująa mózg - NEURON * ~ 5 połązeń Impuls neroy Układ elektronizny? http://.ikipedia.org

Prosty model neuronu y N i i y N i i i y N i i i b b

Funkja aktyaji g N i i i b y f (g)

Rodzaje sztuznyh neuronó Neuron linioy f ( g) g f Pereptron, ( g), g g f Neuron sigmoidalny (funkja logistyzna) ( g) e g

Sztuzna sieć neuronoa - SSN ANN Artifiial Neural Netork Jednoarstoa (single layer) Wieloarstoa (multilayer)

Zapis ektoroo-maierzoy 3,2 3, 2,2 2,,2, W 3 2 2 y y y 2 b b b b W y T f 3 2 2 3 b y y f y y y

Rodzaje uzenia siei neuronoyh Uzenie przystosoyanie się siei do zadanego zbioru (iągu) uząego Uzenie z nauzyielem Znana jest pożądana odpoiedź siei na przedstaiony sygnał ejśioy. Ciąg uząy to iąg danyh ejśioyh (inputs) i skojarzonyh z nimi pożądanyh odpoiedzi (targets). Przykład: yhoanie Uzenie bez nauzyiela Pożądana odpoiedź (targets) nie jest znana. Samouzenie polega na utralaniu harakterystyznyh eh siei. Przykład: Krystalizoanie się śiatopoglądu.

Uzenie z nauzyielem reguła Delta Ciąg uząy n=,2, L z n, n yn Funkja błędu Q 2 L z j y j j 2 Q, 2 2 Q j i j 2 z y 2 Q - stała uzenia j j i j j

Metoda momentum Q j i j Za małe poolne uzenie Za duże osylaje okół minimum Metoda momentum korekta ag edług reguły i j Q j i j i ( j) Nadanie punktoi reprezentująemu agi penego momentu bezładnośi. Gdy kolejne gradienty skazują ten sam kierunek, ih działanie się kumuluje i przyrosty ag stają się oraz iększe. Gdy gradienty są przeine, ruh punktu jest hamoany.

Przykład Rozpoznaanie i klasyfikaja Sieć rozpoznająa litery alfabetu

Wektoroy zapis obrazu litery B =?

Arhitektura siei B Y(B) B W Y(B) T f,, ) ( g g g f

Przykład 2: Prognozoanie Sieć yznazająa proentoe udziały poszzególnyh izotopó promieniotórzyh na podstaie idm próbek zmierzonyh detektorem syntylayjnym

Dyfuzja znaznikó promieniotórzyh Badanie dyfuzji poszzególnyh pieriastkó stali manganoo-hromoej z ykorzystaniem znaznikó promieniotórzyh

Amplituda sygnału - intensyność Widmo mierzone detektorem syntylayjnym izotop Cr Mn 5 59 Fe 54 E [kev ] T [ dni] 32 27.7 835 32.2 99 292 / 2 44.6 Detektor syntylayjny ehuje się słabą zdolnośią rozdzielzą, jednak jest tańszy od dokładniejszyh detektoró półprzeodnikoyh Numer kanału - Energia promienioania Widmo ałośi jest peną kombinają idm składoyh

Wektoroy opis idma k kanałó detektora plik.tt.9475.932.962.977.257.66.389 kolumna k lizb Wektor k-ymiaroej przestrzeni P X P P X, X,, 2 X P k Normalizaja P k i X P P X i f ( ) d

Wersory idmoe P Cr k i X Cr Cr X i Mn k i X Mn Mn X i Cr k i X Cr Cr X i Wektor idmoy próbki jest sumą ektoró idmoyh składoyh izotopó P Cr, Mn, Fe stężenia % Cr Cr Mn Cr Fe Mn Mn Fe Fe Cr Mn Fe

Arhitektura siei k 2 3 2 3 2 3 2 32 22 2 3 2 2 k k k k y W Dla liznika posiadająego k kanałó sieć ma k ejść (inputs) Lizba neuronó, i tym samym lizba yjść (outputs), odpoiada lizbie analizoanyh izotopó Sieć jednoarstoa

Ciąg uząy r mn fe rand r r rand mn Współzynniki stężeń iągu uząym są generoane przy użyiu generatora lizb losoyh P Cr Cr Mn Mn Fe Fe k 2 2 3 y 2 3 z Cr Mn Fe Q j i j 2 z y 2 Q j j j i j

Przykład 3: Prognozoanie Sieć prognozująa fizyzne łaśiośi betonu

Wytrzymałość betonu Wytrzymałość najażniejsza eha betonu. Mierzona jest zazyzaj po normoym zasie dojrzeania. Wytrzymałość betonu zależy od ielu zynnikó. Do prognozoania ytrzymałośi na zgnianie oraz nasiąkliośi betonu zastosoano 2 arstoą sieć neuronoą z sigmoidalną funkją aktyaji neuronó. Wspomagane komputeroo prognozoanie fizyznyh łaśiośi betonu o ysokiej ytrzymałośi, zaierająego nanoząstki Fe2O3, Cement, apno beton, rzesień-październik 22 r., Nr 5,.ementapnobeton.pl

Arhitektura siei INPUTS C zaartość ementu N zaartość nanoząstek AG rodzaj kruszya W zaartość ody S ilość superplastyfikatora CM rodzaj środoiska dojrzeania AC zas dojrzeania NT lizba pokazó TARGETS F F ytrzymałość na zginanie F W nasiąkliość

Literatura J. Żurada, M. Barski, W. Jędruh, Sztuzne siei neuronoe, PWN 996 S. Ossoski, Siei neuronoe do przetarzania informaji, Wyd. Politehniki Warszaskiej 26 R. Tadeusieiz, Siei neuronoe, Akademika Ofiyna Wydaniza, 993 http://.s.put.poznan.pl/rklaus/assn/neuron.htm

Zagadnienia do egzaminu zęść /3. Wymień i sharakteryzuj rodzaje sztuznyh neuronó. 2. Tój zespół opraouje komputeroy program do gry kółko i krzyżyk. Znaki kółka i krzyżyka rozdzielzośi (rysunek) grająy będzie rysoał na tableie. Toim zadaniem jest zbudoanie siei neuronoej odróżniająej kółko od krzyżyka. Zaproponuj najprostszy model siei neuronoej realizująej takie zadanie. Dołąz rysunek przedstaiająy arhitekturę tej siei.

Zagadnienia do egzaminu zęść 2/3 3. Na ejśie pereptronu (rysunek) trafia sygnał Współzynniki agoe neuronu ynoszą odpoiednio: =.5, 2 =.3, 3=-.2. Obliz odpoiedź y pereptronu. T 4. Przedsta klasyzny shemat uzenia neuronu (regułę delta ) oraz metodę momentum.

Zagadnienia do egzaminu zęść 3/3 5. W kontekśie sztuznyh siei neuronoyh yjaśnij następująe pojęia: a) sygnały ejśioe (dane), (input variable) b) arsta ejśioa, (input layer) ) arsta ukryta, (hidden layer) d) arsta yjśioa, (output layer) e) sygnały yjśioe (yniki), (output) f) artość progoa, (bias) g) zadana (ymagana) odpoiedź neuronu na sygnał, (target) h) iąg uząy, (training set) i) iąg testująy,(testing set) j) epoka, (epoh) k) aga neuronu, (eight) l) szybkość uzenia, (learning rate) m) momentum, (momentum fator)