Sieć Hopfielda. Zdefiniowana w roku 1982, wprowadziła sprzężenie zwrotne do struktur sieci. Cechy charakterystyczne:

Podobne dokumenty
Wyróżnić należy następujące sieci rekurencyjne: sieć Hopfielda, jej uogólnienie sieć BAM, sieć Hamminga oraz sieci rezonansowe.


ANALIZA OBWODÓW DLA PRZEBIEGÓW SINUSOIDALNYCH METODĄ LICZB ZESPOLONYCH



1.7 Zagadnienia szczegółowe związane z równaniem ruchu Moment bezwładności i moment zamachowy

termodynamika fenomenologiczna p, VT V, teoria kinetyczno-molekularna <v 2 > termodynamika statystyczna n(v) to jest długi czas, zachodzi




f (3) jesli 01 f (4) Rys. 1. Model neuronu


Pienińskich Portali Turystycznych

2. Architektury sztucznych sieci neuronowych

Sieci neuronowe - uczenie

1. Wprowadzenie, sieć naśladująca psa Pawłowa

Metody numeryczne. Różniczkowanie. Wykład nr 6. dr hab. Piotr Fronczak

Pochodna funkcji wykład 5

1 ZASADA DZIAŁANIA SCHEMAT FUNKCJONALNY PARAMETRY...7

śą ś ć Ą Ó ó Ę ń ó

Podstawy teorii falek (Wavelets)

Schematy zastępcze tranzystorów

Służą opisowi oraz przewidywaniu przyszłego kształtowania się zależności gospodarczych.

Pozycjonowanie bazujące na wielosensorowym filtrze Kalmana. Positioning based on the multi-sensor Kalman filter

Zestaw zadań 4: Przestrzenie wektorowe i podprzestrzenie. Liniowa niezależność. Sumy i sumy proste podprzestrzeni.


Grupa obrotów. - grupa symetrii kuli, R - wszystkie możliwe obroty o dowolne kąty wokół osi przechodzących przez środek kuli

FUNKCJE DWÓCH ZMIENNYCH

Wykład 6. Klasyczny model regresji liniowej

Ą ć ć ć ć ć ź

5. Pochodna funkcji. lim. x c x c. (x c) = lim. g(c + h) g(c) = lim























Wnioskowanie statystyczne dla korelacji i regresji.

Odtworzenie wywodu metodą wstępującą (bottom up)

Spójne przestrzenie metryczne

BADANIE WYBRANYCH STRUKTUR NIEZAWODNOŚCIOWYCH

UWAGI O ROZKŁADZIE FUNKCJI ZMIENNEJ LOSOWEJ.

Moc wydzielana na rezystancji

Automatyka ABK. Computers & Control Katowice Al. Porcelanowa ZASADA DZIAŁANIA SCHEMAT FUNKCJONALNY PARAMETRY...

Numeryczne metody optymalizacji Optymalizacja w kierunku. informacje dodatkowe

Wpływ pola magnetycznego na plazmę w półprzewodnikach

25. RÓWNANIA RÓŻNICZKOWE PIERWSZEGO RZĘDU. y +y tgx=sinx

V. WPROWADZENIE DO PRZESTRZENI FUNKCYJNYCH

Rozkład prędkości cząsteczek.

( ) ( ) ( ) ( ) ( )( ) ( ) ( ) 2. r s. ( i. REGRESJA (jedna zmienna) e s = + Y b b X. x x x n x. cov( (kowariancja) = (współczynnik korelacji) = +


Przejścia międzypasmowe

Teoria i praktyka. Wyższa Szkoła Turystyki i Ekologii. Fizyka. WSTiE Sucha Beskidzka Fizyka

q (s, z) = ( ) (λ T) ρc = q

Wykład 2: Uczenie nadzorowane sieci neuronowych - I

Granica i ciągłość funkcji. 1 Granica funkcji rzeczywistej jednej zmiennej rzeczywsitej

ż ż ĄĄ ż ż


x y x y y 2 1-1

Wykład 2: Uczenie nadzorowane sieci neuronowych - I


Rachunek prawdopodobieństwa i statystyka W 11: Analizy zależnościpomiędzy zmiennymi losowymi Model regresji wielokrotnej







16, zbudowano test jednostajnie najmocniejszy dla weryfikacji hipotezy H

Pomiar bezpośredni przyrządem wskazówkowym elektromechanicznym

x 1 x 2 x 3 x n w 1 w 2 Σ w 3 w n x 1 x 2 x 1 XOR x (x A, y A ) y A x A












Transkrypt:

Sc Hopflda... Sć Hopflda Zdfnoana roku 98, proadzła sprzężn zrotn do struktur sc. Cch charaktrstczn: brak dnokrunkogo przpłu sgnału n oż różnć arst śco, śco, pośrdn k W,,W,...Wn,_ W,,W,..Wn, W,,W,k...Wn,k......... x x xk Jdnoarsto, dnoaro odl sc. W sc t nuron aą nlno charaktrstk : a nlnoość ϕ gdz: * + x ξ ϕ dana st prostą bnarną funkcą: + > <

Sc Hopflda... spółcznnk ago łącząc śc - tgo nuronu z śc - tgo nuronu n zalżą od, prz cz okrśla chlę czasoą procs dnaczngo pobudzna sc, któr sę ona obcn znadu. suoan sgnałó ścoch z poszczgólnch nuronó zorz dfnuąc łączn pobudzn odba sę po szstkch lntach sc, a zat sc przdzan są połączna z arst ścoch do arst czśnszch - czl sprzężna zrotn. Sć o tak schac połączń nazać będz scą autoasocacną. Procs scach Hopflda Z zględu na spcfczną archtkturę sc ożl sta sę gnroan przbgó dnacznch na skutk tgo, ż pn onc sgnał śco staą sę autoatczn artośca śco +. Ralzoan st ęc nlno ktoro odzoroan : Y + Ξ X, Y prz założnu ż x szstkch szstkch > zalżność upraszcza sę do : Y + Ξ Y Koln artośc Y, Y,..., Y -, Y obsru przstrzn stanu γ R k do któr nalżą szstk ktor sgnałó ścoch Y. Możl ęc st poan sę osclac, przbgó rozbżnch, a nat poan sę chaosu. W 983 Cohn Grossbrg kazal, ż sć gnru stabln rozązana, śl unożl sę autoasocacność podnczch nuronó : oraz zapn sę strę sc:

Sc Hopflda... 3 Stan rónoag sc Hopflda Stan rónoag sc ożna potraktoać ako probl boru stanu o naln,,nrg sc. Dfnu sę ęc funkcę nrg funkcę Lapunoa o następuąc postac: E x + ξ ξ ξ ξ Zana δe zachodząca na skutk zan stanu sc spoodoan zaną sgnału ścogo - tgo nuronu nos: δ E [ + x ] δ albo: δ E [ ] δ Prz, ż kroku pobudzn nuronu przkracza próg. Wóczas na ścu poaa sę sgnał, zat cznnk δ us bć dodatn lub zro. Rónoczśn z zględu na: > cznnk naas kadrato us bć dodatn, a ęc zana nrg oż bć dn una lub zroa. Analogczn : <, zana nrg st rónż una lub zroa, natoast prz nrga n zna sę. Poższ rozuoan potrdza, ż sć dąż do osągnęca nu, następn do zahaoana zan osągnęca stanu stablngo.

Sc Hopflda... 4 Paęć autoasocacna Paęć autoasocacna paęć skoarznoa nazana czasa CAM od Contnt Adrssabl Mor. Sć ponna zapaętać szrg zorcó D, a po poanu sę ktora X podobngo do dngo z zapaętanch zorcó sć ponna odtorzć zapaętan ktor D podobn do ktora X. Algort uczna - toda Hbba : gdz: st -tą składoą ktora D. M Macrz W połączń poędz lnta sc a postać: W M D T D Dzałan sc polga na dnorazo podanu sgnałó ścoch X oczkanu na okrślon stan stabln odpodz zorca D skoarzongo z sgnał śco. Poność tak utorzon sc szacu sę na około.5n, gdz N st lczbą nuronó sc. Sgnał śco prz paęcach skoarznoch traktu sę ako cągł z przdzału doknętgo <-,> [-,].

Sc Hopflda... 5 Nlnoa funkca aktac ϕ oż bć przdstaona postac: funkc lno ϕ k, gdz k st zadan spółcznnk, funkc skoku dnostkogo > ϕ, funkc sgnu < > ϕ, zodfkoan funkc sgnu > ϕ, funkc prcptronoa > ϕ, funkc sgodaln xp β ϕ +, gdz β st zadan paratr. Pożądan st duż β, którgo funkca przpona funkcę progoą przkład β : funkc tangnsodaln xp xp tgh α α α ϕ +, gdz: α st zadan paratr, a tgh st funkcą tangns hprbolczn.

Sc Hopflda... 6 Maszn Bolzanna Koncpca aszn Bolzanna oparta st na założnu, ż stan każdgo nuronu sgnału ścogo oż znać sę sposób loso z okrślon pradopodobńst zalżn od nrg tpratur. p E, T W odnsnu do sstu nforatczngo zór poższ przu postać: p /[ + xp δe E kt / T gdz: E - st nadżką nrg łączngo pobudzna ponad próg pobudzna każdgo kroku δ - pna arbtraln dobrana stała T - suloana tpratura sc kroku -tgo ] Algort doproadzana sc do rónoag:. Dla ustalongo T lczan są szstk artośc p, a następn losoo z pradopodobńst p ustaan są artośc sgnałó ścoch. Konkrtn każdgo kroku każdgo nuronu losoana st z konkrtn rozkład pradopodobństa artość przpadkoa ξ [, ], a następn ustala sę artość zgodn z rgułą: ξ p przcn padku. Obnża sę stopnoo artość T kolnch krokach np. dług rguł: + T T ε albo + T T ε potarza sę aż do osągnęca stanu rónoag.

Sc Hopflda... 7 Uogólnon algort Hntona Snoskgo k zbór ucząc U { < X k, Z >, k,, N} X-ktor nktórch sgnałó ścoch Z-ktor okrślaąc oczkan sgnał śco nktórch lntó sc A. Oblczan,, zązanch pradopodobńst.. Wusza sę nkaąc z cągu uczącgo artośc ść X k ść Z k różnonch nuronó ścoch ścoch.. Pozala sę sc dość do stanu rónoag 3. Rstru sę sgnał śco k szstkch lntó sc 4. Potarza sę poższ punkt szstkch lntó cągu uczącgo x zbraąc statstkę, dzęk któr po zakończnu pokazó szstkch lntó cągu uczącgo ożl st oblczn pradopodobństa P + tgo ż sgnał nuronó o nurach oraz aą rónoczśn artość B. Oblczan,,n zązanch pradopodobńst.. Wusza sę przpadko artośc sgnałó ścoch szstkch lntó sc. Pozala sę dość sc do stanu rónoag 3. Rstru sę sgnał śco k szstkch lntó sc 4. Potarza sę poprzdn punkt lokrotn, zbraąc statstkę, dzęk któr po zakończnu pokazó szstkch lntó cągu uczącgo ożl st oblczn pradopodobństa P - tgo, ż sgnał śco nuronó o nurach oraz aą rónoczśn artość C. Na podsta P + oraz P - korgu sę artośc spółcznnkó agoch oraz łączącch nuron o nurach oraz. Wartośc t są zększan o artość δ lczoną z zoru : δ η[ P + P] Wartośc odpodnch spółcznnkó daą sę znalźć uż po klku tracach.

Sc Hopflda... 8 Rozązan problu kooażra Probl polga na ustalnu optaln tras obazdu n ast przz ędrongo sprzdacę, któr chc oddzć szstk asta przbć nakrótszą drogę. Czas rozązana tgo problu rośn kładnczo prz zrośc lczb ast n ożl st utorzn D n!/n rozróżnalnch tras. n6 to D69.3455* 78 Prz zastosoanu do oblczń sc nurono klucz st odpodna rprzntaca danch ścoch. Jdno z ożlch ożlośc zakłada, ż: - każd asto rprzntoan st przz dn rsz zaraąc n nuronó, - - każd rszu dokładn dn nuron ponn przoać artość, - - pozca na któr nuron przu artość okrśla dnoznaczn nr asta kolność, któr a bć ono oddzon. Łączna lczba nuronó nos n.

Sc Hopflda... 9 Funkcę nrg opsuą cztr składnk: E A x x x E B x z x x z E C Znaczn poszczgólnch składnkó: 3 [ x n] x D E 4 d xz x z, + + z, x z x E - a zroą artość td tlko td śl każd rszu st naż dna dnka, E - artość zroa td tlko td, gd kolun oznaczaąc konkrtn tap podróż będz naż dna dnka, E 3 - zro, gd acrz st dokładn n dnk, E 4 - długość bran drog. Wbran arbtraln spółcznnk A,B,C,D są zględn aga poszczgólnch składnkó. Przkłado artośc tch spółcznnkó są pakc NuralWorks Profssonal II/PLUS fr NuralWar następuąc: A B D C dobran st zalżnośc od rlac poędz paratr n użan zorz składnka E 3, a rzczstą lczbą ast n* C 3/4*n - n*

Sc Hopflda... W rozażan pakc odluąc sć nuronoą spółcznnk ago okrślaąc paratr połączń poędz -t nuron z x-t arst, a - t nuron z - t arst rażaą sę zor: x, z Aδ xz xz xz + + δ δ Bδ δ C Dδ δ,, gdz: δ oznacza funkcę Kronckra δ przcn padku Paratra dodatko są raz oln prog pobudzna dntczn szstkch lntó: xz Cn Głóną zaltą zastosoana sc nurono do rozązana problu TSP st to, ż zrost rozaru problu n n poodu dłużna czasu oblczń, a dn pocąga za sobą rozbudoę sc.