Sieci neuronowe jako przykład współczesnej technologii informatycznej

Podobne dokumenty
Wstęp do sztucznych sieci neuronowych

Zastosowanie sztucznych sieci neuronowych w prognozowaniu szeregów czasowych (prezentacja 2)

1. Historia 2. Podstawy neurobiologii 3. Definicje i inne kłamstwa 4. Sztuczny neuron i zasady działania SSN. Agenda

Sztuczne sieci neuronowe

Metody Sztucznej Inteligencji II

SIECI NEURONOWE Liniowe i nieliniowe sieci neuronowe

Literatura. Sztuczne sieci neuronowe. Przepływ informacji w systemie nerwowym. Budowa i działanie mózgu

PRZEWODNIK PO PRZEDMIOCIE

Sieci neuronowe jako sposób na optymalizacje podejmowanych decyzji. Tomasz Karczyoski Wydział W-08 IZ

Podstawy Sztucznej Inteligencji (PSZT)

8. Neuron z ciągłą funkcją aktywacji.

Sztuczne Sieci Neuronowe. Wiktor Tracz Katedra Urządzania Lasu, Geomatyki i Ekonomiki Leśnictwa, Wydział Leśny SGGW

Podstawy sztucznej inteligencji

PRZEWODNIK PO PRZEDMIOCIE

Sieci neuronowe i algorytmy uczenia Czyli co i jak andrzej.rusiecki.staff.iiar.pwr.wroc.pl s.

Inteligentne systemy przeciw atakom sieciowym

Optymalizacja optymalizacji

PROGNOZOWANIE OSIADAŃ POWIERZCHNI TERENU PRZY UŻYCIU SIECI NEURONOWYCH**

Wstęp do teorii sztucznej inteligencji Wykład II. Uczenie sztucznych neuronów.

Informatyka I stopień (I stopień / II stopień) ogólno akademicki (ogólno akademicki / praktyczny) kierunkowy (podstawowy / kierunkowy / inny HES)

Uniwersytet Zielonogórski Wydział Elektrotechniki, Informatyki i Telekomunikacji Instytut Sterowania i Systemów Informatycznych

WYKORZYSTANIE SIECI NEURONOWEJ DO BADANIA WPŁYWU WYDOBYCIA NA SEJSMICZNOŚĆ W KOPALNIACH WĘGLA KAMIENNEGO. Stanisław Kowalik (Poland, Gliwice)

Nazwa przedmiotu: METODY SZTUCZNEJ INTELIGENCJI W ZAGADNIENIACH EKONOMICZNYCH Artificial intelligence methods in economic issues Kierunek:

Metody sztucznej inteligencji

Algorytmy wspomagania decyzji Czyli co i jak andrzej.rusiecki.staff.iiar.pwr.wroc.pl s.

Inteligentne systemy decyzyjne: Uczenie maszynowe sztuczne sieci neuronowe

Uniwersytet w Białymstoku Wydział Ekonomiczno-Informatyczny w Wilnie SYLLABUS na rok akademicki 2012/2013

Algorytmy wspomagania decyzji Czyli co i jak andrzej.rusiecki.staff.iiar.pwr.wroc.pl s. 230/C-3

Temat: Sztuczne Sieci Neuronowe. Instrukcja do ćwiczeń przedmiotu INŻYNIERIA WIEDZY I SYSTEMY EKSPERTOWE

ID1SII4. Informatyka I stopień (I stopień / II stopień) ogólnoakademicki (ogólno akademicki / praktyczny) stacjonarne (stacjonarne / niestacjonarne)

Inteligentne systemy informacyjne

WYKORZYSTANIE SZTUCZNYCH SIECI NEURONOWYCH W PROGNOZOWANIU

Zagadnienia optymalizacji i aproksymacji. Sieci neuronowe.

Wykład 1: Wprowadzenie do sieci neuronowych

Modelowanie przetworników pomiarowych Kod przedmiotu

Sztuczna Inteligencja Tematy projektów Sieci Neuronowe

Inżynieria danych I stopień Praktyczny Studia stacjonarne Wszystkie specjalności Katedra Inżynierii Produkcji Dr Małgorzata Lucińska

Emergentne właściwości. sztucznych sieci neuronowych

ELEMENTY SZTUCZNEJ INTELIGENCJI. Sztuczne sieci neuronowe

PRZEWODNIK PO PRZEDMIOCIE

Systemy Inteligentnego Przetwarzania wykład 1: sieci elementarne

Sztuczne sieci neuronowe (SNN)

Badacze zbudowali wiele systemów technicznych, naśladujących w komputerze ludzki mózg. Najbardziej pożyteczne okazały się sieci neuronowe.

DEKOMPOZYCJA HIERARCHICZNEJ STRUKTURY SZTUCZNEJ SIECI NEURONOWEJ I ALGORYTM KOORDYNACJI

Zastosowanie sieci neuronowej do oceny klienta banku pod względem ryzyka kredytowego Streszczenie

wiedzy Sieci neuronowe

Zeszyty Naukowe nr 740 Akademii Ekonomicznej w Krakowie. Joanna Palczewska. 1. Wprowadzenie

Wstęp do sieci neuronowych laboratorium 01 Organizacja zajęć. Perceptron prosty

PRZEWODNIK PO PRZEDMIOCIE

Wstęp do teorii sztucznej inteligencji Wykład III. Modele sieci neuronowych.

Diagnostyka procesów przemysłowych Kod przedmiotu

Projekt Sieci neuronowe

Elementy kognitywistyki II: Sztuczna inteligencja. WYKŁAD X: Sztuczny neuron

Sztuczne sieci neuronowe

ZASTOSOWANIE SIECI NEURONOWYCH DO OPTYMALIZACJI WARUNKÓW OBRÓBKI CIEPLNEJ STOPÓW Mg-Al

Wstęp do sieci neuronowych, wykład 02 Perceptrony c.d. Maszyna liniowa.

ZACHODNIOPOMORSKI UNIWERSYTET TECHNOLOGICZNY W SZCZECINIE

MODELOWANIE RZECZYWISTOŚCI

Temat: Sieci neuronowe oraz technologia CUDA

synaptycznych wszystko to waży 1.5 kg i zajmuje objętość około 1.5 litra. A zużywa mniej energii niż lampka nocna.

IMPLEMENTACJA SIECI NEURONOWYCH MLP Z WALIDACJĄ KRZYŻOWĄ

2.2.P.07: Komputerowe narzędzia inżynierii powierzchni

Wykład organizacyjny

Neuron biologiczny. Źród lo: Korbicz i in. [4] Synapsa to po l aczenie nerwowymi.

Sieci neuronowe w Statistica

Sieci neuronowe. - wprowadzenie - Istota inteligencji. WYKŁAD Piotr Ciskowski

Relacja: III Seminarium Naukowe "Inżynierskie zastosowania technologii informatycznych"

PRZEWODNIK PO PRZEDMIOCIE

SYLABUS/KARTA PRZEDMIOTU

PRZEWODNIK PO PRZEDMIOCIE

OCENA EFEKTYWNOŚCI NEURONOWEGO PROGNOZOWANIA W OPARCIU O WYBRANE METODY NA PRZYKŁADZIE DYSTRYBUCJI PRODUKTÓW ROLNICZYCH

KARTA MODUŁU KSZTAŁCENIA

O badaniach nad SZTUCZNĄ INTELIGENCJĄ

Wprowadzenie do teorii systemów ekspertowych

Prof. Stanisław Jankowski

SIEĆ NEURONOWA JAKO NARZĘDZIE APROKSYMACJI I KLASYFIKACJI DANYCH. Jakub Karbowski Gimnazjum nr 17 w Krakowie

Widzenie komputerowe (computer vision)

HAŁASU Z UWZGLĘDNIENIEM ZJAWISK O CHARAKTERZE NIELINIOWYM

MODEL DYNAMICZNY UKŁADU NAPĘDOWEGO JAKO ŹRÓDŁO DANYCH WEJŚCIOWYCH DLA KLASYFIKATORÓW NEURONOWYCH

Zastosowanie metod eksploracji danych Data Mining w badaniach ekonomicznych SAS Enterprise Miner. rok akademicki 2013/2014

Budowa i zróżnicowanie neuronów - elektrofizjologia neuronu

Z-ZIP2-303z Zagadnienia optymalizacji Problems of optimization

Uczenie sieci typu MLP

Najprostsze modele sieci z rekurencją. sieci Hopfielda; sieci uczone regułą Hebba; sieć Hamminga;

Prognozowanie gospodarcze - opis przedmiotu

O badaniach nad SZTUCZNĄ INTELIGENCJĄ

Opis efektów kształcenia dla modułu zajęć

PRZEWODNIK PO PRZEDMIOCIE

Systemy uczące się wykład 2

SCENARIUSZ LEKCJI BIOLOGII Z WYKORZYSTANIEM FILMU DOBRZE MIEĆ O(G)LEJ W GŁOWIE. O KOMÓRKACH UKŁADU NERWOWEGO.

PRZEWODNIK DYDAKTYCZNY I PROGRAM NAUCZANIA PRZEDMIOTU FAKULTATYWNEGO NA KIERUNKU LEKARSKIM ROK AKADEMICKI 2016/2017

Algorytmy sztucznej inteligencji

PRZEWODNIK PO PRZEDMIOCIE

KONCEPCJA WYKORZYSTANIA SZTUCZNYCH SIECI NEURONOWYCH W DIAGNOSTYCE PRZEKŁADNI ZĘBATYCH

MODELOWANIE KOSZTÓW USŁUG ZDROWOTNYCH PRZY

Opis. Wymagania wstępne (tzw. sekwencyjny system zajęć i egzaminów) Liczba godzin zajęć dydaktycznych z podziałem na formy prowadzenia zajęć

Algorytm wstecznej propagacji błędów dla sieci RBF Michał Bereta

PRZEWODNIK PO PRZEDMIOCIE

Podstawy sztucznej inteligencji

SZTUCZNE SIECI NEURONOWE W MODELOWANIU ZJAWISK ZACHODZĄCYCH NA RYNKU NIERUCHOMOŚCI

Transkrypt:

Maciej Roszkowski Sieci neuronowe jako przykład współczesnej technologii informatycznej Sieci neuronowe są technologią sztucznej inteligencji, trochę zapomnianą we współczesnym świecie. Współczesny ogólnie dostępny software bazuje na sprawdzonych algorytmach. Jeżeli danego problemu nie da się rozwiązać za pomocą tradycyjnych algorytmów, wymyśla się możliwości jego obejścia lub po prostu problem pozostaje nierozwiązany. Sztuczna inteligencja Sieci neuronowe umożliwiają rozwiązanie problemów, które nie są możliwe do rozwiązania przy pomocy klasycznych metod. Mózg ludzki Pierwowzorem sieci neuronowych jest mózg ludzki. Mózg składa się przede wszystkim z neuronów (elementarnych komórek nerwowych). Półkule pokrywa kora mózgowa, zawierająca około 10 10 komórek nerwowych. Komórki nerwowe są między sobą połączone za pomocą około 10 15 połączeń (aksonów i dendrytów) (Rysunek 1). Każdy neuron posiada somę, w której znajduje się jądro. Z somy odchodzą dendryty i aksony, które pełnią funkcję połączeń z innymi komórkami. Sygnały wejściowe są doprowadzane do neuronu za pomocą synaps poprzez dendryty (oraz za pomocą synaps umiejscowionych bezpośrednio na ciele komórki z aksonów innych neuronów), natomiast sygnały wyjściowe są odprowadzane za pomocą aksonu poprzez koratele. Koratele dochodzą do somy i dendrytów innych neuronów, tworząc synapsy innych neuronów. Rysunek 1. Uproszczony schemat rzeczywistej komórki nerwowej Źródło : Stanisław Osowski, Sieci neuronowe do przetwarzania informacji, Oficyna Wydawnicza Politechniki Warszawskiej, Warszawa 2000. Pomiędzy neuronami przekazywane są impulsy elektrochemiczne. W wyniku bodźca synapsa wydziela substancję zwaną neuromediatorem (Rysunek 2). Neuromediator oddziałuje na błonę komórki, co powoduje zmianę jej potencjału elektrycznego. Im większa ilość neuromediatora, tym zmiana potencjału jest większa. Suma ilości neuromediatora wydzielonego przez wszystkie synapsy powoduje określone pobudzenie komórki (zapłon). Jeżeli zaburzenie stanu równowagi elektrycznej komórki jest większe od progu uaktywnienia komórki, wtedy impuls nerwowy zostanie

przekazany poprzez akson do innych neuronów. Jeżeli natomiast określona wartość progowa uaktywnienia komórki nie zostanie osiągnięta, neuron wróci do sytuacji początkowej. Rysunek 2. Schematyczna budowa synapsy. Źródło : Opracowanie własne. W związku z faktem, że poszczególne synapsy różnią się pod względem wielkości i możliwości gromadzenia neuromediatora, w modelu matematycznym poszczególnym wejściom przypisuje się różne wagi. Synapsy są uproszczone do operatorów przemnażania wejściowego sygnału przez współczynniki powstające w procesie uczenia (wagi). Wagi dodatnie pobudzają, natomiast wagi ujemne hamują pobudzenie. Model matematyczny neuronu Inspiracją do stworzenia sieci neuronowej, jest budowa mózgu ludzkiego. Zarys działania sieci neuronowej opiera się na zasadzie funkcjonowania systemu nerwowego człowieka. Matematyczny model stosuje szereg uproszczeń w celu uzyskania wygodnej w implementacji i eksploatacji sieci neuronowej. Sieci neuronowe to systemem wzajemnie połączonych ze sobą neuronów. Do każdego neuronu docierają wartości wejściowe, o określonej ważności. Na podstawie sumy iloczynów wartości sygnałów wejściowych (x i ) i wagi każdego sygnału (w i ), każdy z neuronów oblicza sygnał łącznego pobudzenia. Sygnał wyjściowy neuronu powstaje w wyniku podstawienia sygnału łącznego pobudzenia neuronu (e) jako argumentu do funkcji aktywacji φ(e) przy określonym progu T aktywacji (Rysunek 3). x 1 x 2 x 3 x n w 1 w 2 w 3 y = ϕ(e) e = w i * x i n i= 1 T w n e ϕ(e) Rysunek 3. Model neuronu (McCullocha-Pittsa) Źródło : Opracowanie własne y

Rozwiązanie konkretnego problemu jest przechowywane w wewnętrznych odwzorowaniach sieci neuronowej. W wyniku określonych wartościowo sygnałów wejściowych sieć generuje wynik. Zachowanie całej sieci neuronowej jest silnie warunkowane użytą funkcją aktywacji. Funkcja aktywacji może przybierać jedną z trzech postaci : liniową, nieliniową i progową. Wybór konkretnej postaci jest zależny od rodzaju problemu, jaki jest stawiany przed siecią. Dany problem jest rozwiązywany przez sieć neuronową na podstawie danych treningowych, które sieć przetwarza w fazie uczenia. Znakomita większość metod nauczania opiera się na takim doborze wag (w i ), aby sygnał wyjściowy y był jak najbliższy wartości pożądanej. W fazie początkowej uczenia sieć jest najczęściej w sposób losowy zainicjowana wartościami wag (w i ), po czym następuje prezentacja próbek uczących (x i ). Na podstawie przetworzenia tych danych przez funkcję aktywacji jest obliczana wartość (y), jeżeli został osiągnięty próg aktywacji (T). W wyniku porównania wartości (y) i wartości pożądanej (charakterystycznej dla każdej próbki (x i )), zostaje dokonana korekcja wartości wag (w i ). Po skorygowaniu wag cykl zostaje powtórzony od momentu prezentacji kolejnych próbek uczących (x i ). Współczesne wyzwania stawiane przed sieciami neuronowymi Sieci neuronowe są wykorzystywane najczęściej jako mechanizm sterujący procesem lub jako mechanizm decyzyjny. Współczesne zastosowania, jakie są możliwe do zaimplementowania za pomocą sieci neuronowych to m.in.: 1. Predykcja 2. Analiza danych 3. Filtracja sygnałów 4. Optymalizacja 5. Klasyfikacja. Predykcja W dziedzinie predykcji zadaniem sieci jest na podstawie pewnych danych wejściowych wyznaczenie określonych danych wyjściowych. Przykładami takich problemów mogą być : prognozowanie zapotrzebowania na pracowników, prognozowanie obciążenia obrabiarek, ocena zdolności kredytowej, prognozowanie wskaźników ekonomicznych, przewidywanie zbiorów, prognozowanie upadłości banków. Pomimo nieznajomości mechanizmów charakterystycznych dla danego problemu badawczego, sieć neuronowa może nabyć zdolności przewidywania sygnałów wyjściowych, na podstawie jedynie obserwacji ciągu uczącego. Ta właściwość jest wykorzystywana przede wszystkim w problemach, których nie sposób opisać w postaci reguł lub algorytmów. Analiza danych Sieci neuronowe potrafią przeszukiwać dane pod względem związków przyczynowych, czy też incydentalnych. Taka analiza danych umożliwia : ustalenie przyczyn niepowodzeń określonych przedsięwzięć (wyciągnięcie wniosków), analizę kondycji finansowej przedsiębiorstw, analizę rynku kapitałowego. Filtracja sygnałów Filtracji sygnału jest najczęściej stosowana w telekomunikacji czy automatycznej diagnostyce medycznej. Taka filtracja umożliwia : pozbycie się z danych wejściowych celowych przekłamań informacji, błędów systematycznych, uzupełnienie danych niekompletnych, z czym nie radzą sobie tradycyjne (statystyczne) metody takiej obróbki.

Optymalizacja Za pomocą sieci neuronowych jest możliwe znalezienie optymalnego rozwiązania danego problemu badawczego, optymalizacji dynamicznej i statycznej, rozwiązanie równać liniowych i nieliniowych. Klasyfikacja Klasyfikacja polega na przewidywaniu identyfikatora klasy, do której zaliczyć można wejściowe dane. Sieć może znajdować istotne dane, bez posiadania wiedzy eksperckiej. Możliwych zastosowań jest wiele : rozpoznawanie obrazu, pisma, twarzy, identyfikacja regionów zagrożonych strukturalne bezrobociem. Podsumowanie Sieci neuronowe są technologią, którą można zaimplementować do rozwiązania wielu problemów. Bardzo dobrze sprawdza się przy rozwiązywaniu zadań, niemożliwych do rozwiązania klasycznymi metodami. Metody rozwiązywania problemów za pomocą sieci neuronowych nie są tak powszechnie znane jak chociażby metody statystyki matematycznej. Wynika to z faktu, iż poprawności działania sieci neuronowych nie da się wykazać w postaci dowodu matematycznego. Pomimo potwierdzonych rozwiązań, nie jest się w stanie dowieść prawdziwości wszystkich wyników. Wynika to z budowy samej sieci, która dla tych samych próbek może wykazać wartościowo różne wyniki (przy ponownym uczeniu), prowadzące do identycznych końcowych rozwiązań. Jednakże fakt, że nie da się udowodnić poprawności rozwiązań i tak nie powstrzymuje technologii od implementacji sieci neuronowych, gdyż ich zastosowanie wypełnia lukę we współcześnie stosowanych technologiach informatycznych. Literatura 1. E. Gately, Sieci Neuronowe. Prognozowanie finansowe i projektowanie systemów transakcyjnych, WIG Press Warszawa 1999. 2. T. Masters, Practical Neural Network Recipies in C++, Academic Press 1993. 3. Pr. zbior. pod red. J.S. Zieliński, Inteligentne systemy w zarządzaniu. Teoria i praktyka, PWN Warszawa 2000. 4. M. Roszkowski, A. Nowakowski, Proces przygotowania i wstępnego przetwarzania zbioru uczącego dla sieci neuronowej, Materiały VIII Sesji Informatyki, WI PS, Szczecin 2003. 5. M. Roszkowski, M. Godniak, Istota procesu informacyjnego na przykładzie klasyfikacji klientów za pomocą sieci neuronowych, VII Konferencja Problemy Społeczeństwa Globalnej Informacji, Informacja dobra czy zła nowina, Międzyzdroje 2004. 6. M. Roszkowski, Wzrost konkurencyjności przedsiębiorstw na rynku Unii Europejskiej przy użyciu profilowania klientów za pomocą sieci neuronowych, IV Ogólnopolska Konferencja Doktorantów, Polska w Unii Europejskiej, Szczecin 2004. 7. StatSoft Polska Sp. z o.o., Wprowadzenie do sieci neuronowych, Kraków 2001. 8. Pr. zbior. pod red. W. Duch, J. Korbicz, L. Rutkowski, R. Tadeusiewicz, Sieci neuronowe, Exit Warszawa 2000. 9. Pr. zbior. pod red. L. Kiełtyka, Inteligentne systemy prognozowania, WPC Częstochowa 2000. 10. R. Tadeusiewicz, Sieci neuronowe, Akademicka Oficyna Wydawnicza RM, Warszawa 1993.

11. J. Korbicz, A. Obuchowicz, D. Uciński, Sztuczne siec neuronowe. Podstawy i zastosowania, Akademicka Oficyna Wydawnicza PLJ, Warszawa 1994. Streszczenie Artykuł prezentuje sieci neuronowe, będące jedną z wielu współczesnych technologii informatycznych. Rozwiązywanie problemów przy pomocy sieci neuronowej jest wzorowane na działaniu mózgu ludzkiego. Sieci neuronowe umożliwiają rozwiązanie problemów, które są często nie możliwe do rozwiązania przy użyciu standardowych metod. Współczesne zastosowania, jakie są możliwe do zaimplementowania za pomocą sieci neuronowych to m.in.: predykcja, analiza danych, filtracja sygnałów, optymalizacja, klasyfikacja. Summary The article presents neural networks as a one of the many contemporary computer technologies. Solving problems with the use of neutral network is followed on the work of man s brain. Neural networks enable solve problems, which are impossible to solve with the use of traditional methods. Modern applications, which are possible to implement with the use neural networks, are: prediction, analyze of data, optimalisation, signals filtering and classification.