Wyróżnić należy następujące sieci rekurencyjne: sieć Hopfielda, jej uogólnienie sieć BAM, sieć Hamminga oraz sieci rezonansowe.

HTML
DOWNLOAD

Wielkość: px

Rozpocząć pokaz od strony:

Download "Wyróżnić należy następujące sieci rekurencyjne: sieć Hopfielda, jej uogólnienie sieć BAM, sieć Hamminga oraz sieci rezonansowe."

Jacek Krajewski
6 lat temu
Przeglądów:

1 1. Seć Hopfelda 1.1 Sec ze sprzężene zrotn Sec ze sprzężene zrotn torzą odrębną grupę sec neuronoch, stępuącą róneż pod nazą sec rekurencnch bądź asocacnch. Zaknęce pętl sprzężena zrotnego poodue, ż seć stae sę dnaczna. Sgnał na e ścach zależą zaróno od aktualnego stanu eść, ak od poprzednch sgnałó eścoch, które są z kole uzależnone od poprzednch sgnałó eścoch. Można zate sterdzć, że sgnał na ścach sec zależą od stanu początkoego oraz dzałaącch pobudzeń. Do cech spólnch sec rekurencnch należ fakt, ż stneą setrczne poązana ędz neurona. Neuron tch secach ne torzą raźnch arst ogą bć rozażane doolne topograf. Wróżnć należ następuące sec rekurencne: seć Hopfelda, e uogólnene seć BAM, seć Hanga oraz sec rezonansoe. 1.2 Charakterstka sec Hopfelda Seć Hopfelda est edn z przedstacel sec ze sprzężene zrotn. Naza pochodz od nazska tórc, J. J. Hopfeld a, któr roku 1982 przedstał odel teże sec. Publkaca Hopfeld a, które zdefnoał seć stała sę punkte zrotn badanach nad seca neurono. Należ do nabardze popularnch sec neuronoch. Ważną e cechą est prost sposób uczena oraz łatość pleentac postac układu fzcznego. W sec te charakterstk neuronó są nelnoe: e, gdze a nelnoość e e est postac:,

2 1 1 dla e 0 dla e 0 1 dla e 0. Istneą ne połączena z arst ścoch do arst cześneszch, czl sprzężene zrotne. Co za t dze ożle est poaene sę przebegó dnacznch. Zacera sę tch secach podzał na arst, poneaż każd neuron sec a kontakt z odpoadaąc u sgnałe eśco N N Rsunek 1 Model sec Hopfelda Wadą sec Hopfelda est e ała poeność, rażana ałą loścą klas ake seć oże zapaętać. 1.3 Seć Hopfelda ako paęć autoasocacna Seć Hopfelda oże pracoać ako paęć autoasocacna (skoarzenoa), tak przpadku e zadane est "zapaętane" zorcó tak ab po podanu na eśce sec sgnału na e ścu ustalł sę ektoro sgnał ust odpoadaąc edneu z zorcó. Odtorzon zorzec ponen bć ponadto "nablższ" ektoro. Jako arę odległośc poędz ektora ust przue sę arę Hanga defnoaną następuąco: N 1 ust 2 ust 1

3 gdze ndeks oznacza -tą składoą ektora. Inacze óąc, seć Hopfelda korzstana ako paęć skoarzenoa ponna na podstae danch eścoch, które ększośc przpadkó są zakłócone "odtarzać" nablższ zapaętan zorzec. W celu uzskana takego rezultatu, na etape uczena sec, należ zapenć dobór odpoednch ag. 1.4 Stablność W celu ułatena badana stablnośc sec Hopfelda została proadzona tz. funkca oblczenoa zana energą. Cekaą łasnoścą teże funkc est fakt, ż e artość kolench teracach ne zrasta. Kolene stan są przoane kerunku przecn do gradentu energ, aż do oentu osągnęca przez ną nu lokalnego. Energę razć ożna następuąc zore: E 1 2 M M 1 1 M 1 I Prz cz I est eśco prąde nezrónoażena, o charakterze prądu pobudzena. Woge stablnego dzałana paęc autoasocacne est arunek, ab odpoedź - tego neuronu na l-t zorzec ucząc (l) bła róna -te składoe tego zorca (l) N l l k k l l sgn 1 sgn 0 N 0 k1 N P Paęć autoasocacna a łaścośc korekcne. Prz prezentac próbk różnące sę bta na pench pozcach ektora, seć neuronoa oże dokonać korekc tch btó zakończć proces klasfkac e łaśc atraktorze.

4 A A 2. Metod uczena sec Hopfelda 2.1 Reguła Hebba Regułę Hebba ożna zapsać następuąc sposób: - Jeśl neuron A B połączone snapsą są pobudzane ednocześne (t. snchronczne) to połączene snaptczne e łączące est zacnane. - Jeśl neuron A B połączone snapsą są pobudzane neednocześne (t. asnchronczne) to połączene snaptczne e łączące podlega osłabenu. Wag snoptczne ędz neurona A B odfkoane są zgodne ze zore: k 1 k k k, gdze - aga połączena ędz neurona oraz - stan aktac neuronu - stan aktac neuronu - spółcznnk uczena Rsunek 2 Połączene ędz neurona Wzrost ag połączeń regule Hebba est neogranczon, dlatego uczene ne kończ sę, to natoast proadz do rozbeżnośc procesu.

5 2.2 Reguła Wzaench Ogranczeń Ze zględu na ogranczena Metod Hebba został proadzone do ne pene odfkace. Zaera e Metoda Wzaench Ogranczeń. Reguła ta proadza składnk odpchaąc, któr chron przed rozbeżnoścą procesu uczena. Wag ne lcza sę edług następuącego zoru: ( k 1) ( k)(1 ) ( k) k - spółcznnk zaponana 2.3 Reguła Rzutoana Delta Reguła Delta est napopularneszą nachętne stosoaną etodą uczena z nauczcele. Z Metodą Naększego Spadku (Regułą Delta) a do cznena, gd uaktualnane ag następue każdorazoo po prezentac edne par uczące. Reguła Delta est uogólnene Reguł Perceptronu. Stosoana est dla neuronó o cągłe funkc aktac. Wag ne uzskue sę na podstae ponższe zależnośc: k 1 k cd f net 2.4 Zodfkoana Reguła Perceptronu W przpadku skokoch funkc aktac z ak a do cznena przpadku sec Hopfelda ożna stosoać Regułę Perceptronu (rs.) bądź e uogólnene znane pod nazą Reguł Wdroa - Hoffa. Regułę Perceptronu ożna sforułoać następuąc sposób: Prz stępne ustalonch artoścach ag prezentue sę na eścu ektor ucząc oblcza artość sgnału ścoego. W nku porónana aktualne artośc oraz artośc żądane d dokonue sę aktualzac ag zgodne z zależnoścą

6 k 1 k k k, dla, dla dla d 0, 1 d d 1 0 Po uaktualnenu ag następue prezentaca noego ektora uczącego skoarzone z ną artośc zadane d, a następne ponone aktualzue sę ag. Proces potarzan est na szstkch próbkach uczącch elokrotne, aż uzska sę nalzacę różnc ędz szstk artośca śco odpoadaąc e artośca zadan.

7 3. Progra Snhop ako sulator do rozpoznaana znakó 3.1 Wproadzene do prograu agana Sulator Snhop postał ako ntegralna część prac dplooe: Rozpoznaane obrazó prz użcu sulatora sec Hopfelda. Został zapleentoan dla środoska Sun Java 2. Pozala na przetestoane różnch etod uczena sec Hopfelda oraz ocenene skutecznośc tchże etod rozpoznaanu znakó. Do podstaoch łaścośc prograu należą: ożlość ustalena rozaru obrazu, ustaene paraetru BIAS. Sulator pozala na bór etod uczena oraz ustaene paraetró te etod, zapsane całe sec bądź też poszczególnch zboró: zorcoego, testuącego oraz nkoego. Po zakończon etape uczena rozpoznaana progra generue raport. Mnalne agana prograu do pradłoego dzałana to: - Procesor 200MHz - RAM 64MB - Sun J2RE Instrukca obsług prograu Snhop W okne głón prograu a czter zakładk: nstrukca, paraetr, sulaca oraz nk. W Instrukc znadue szstke potrzebne skazók dotczące prograu oraz prac z n. Zakładka Paraetr służ na do brana nteresuącch nas ustaeń prograu.

8 Rsunek 3 Okno boru paraetró W t escu bera etodę uczena sec oraz paraetr korzstane podczas rozpoznaana. Kolena zakładka, którą est Sulaca pozala na na cztane zboru uczącego, testuącego, a także zapoznane sę z otrzan nka. Po rozpoznanu przez seć zorca a ożlość generoać raport, któr następne oże oberzeć po prześcu do zakładk Wnk (Dokładne scan zakładk Sulaca ak Wnk zostaną przedstaone rozdzale 5. Eksperent, test, prób). Funkce sulatora uruchaa z paska Menu, ątke est edne koenda Uczene Rozpoznaane dostępne łączne z paska Narzędz. Rsunek 4 Pasek Menu Pasek Narzędz

9 4. Bblografa [1] Mancar M. Rozpoznaane obrazó prz użcu sulatora sec Hopfelda, praca dplooa pod keroncte dr nż. Jolant Grabske-Chrząstoske, Krakó, 2002 [2] Grabska-Chrząstoska J., Mancar M. Odtarzane znekształconch znakó prz pooc sec Hopfelda, Krakó [3] Grabska-Chrząstoska J. Optalzaca sec Hopfelda prz konstrukc paęc skoarzenoch, Krakó [4] Tadeusecz R. Sec neuronoe, Akadecka Ofcna Wdancza RM, Warszaa, 1993

Podobne dokumenty

SZTUCZNA INTELIGENCJA

SZTUCZNA INTELIGENCJA WYKŁAD 5. SZTUCZNE SIECI NEURONOWE REGRESJA Częstochowa 4 Dr hab. nż. Grzegorz Dudek Wdzał Elektrczn Poltechnka Częstochowska PROBLEM APROKSYMACJI FUNKCJI Aproksmaca funkc przblżane