Technologie cyfrowe semestr letni 2018/2019

Podobne dokumenty
Sztuczna Inteligencja Tematy projektów Sieci Neuronowe

Wstęp do sieci neuronowych, wykład 6 Wsteczna propagacja błędu - cz. 3

Elementy inteligencji obliczeniowej

Wstęp do teorii sztucznej inteligencji Wykład III. Modele sieci neuronowych.

1. Historia 2. Podstawy neurobiologii 3. Definicje i inne kłamstwa 4. Sztuczny neuron i zasady działania SSN. Agenda

Uczenie sieci neuronowych i bayesowskich

Zagadnienia optymalizacji i aproksymacji. Sieci neuronowe.

Podstawy Sztucznej Inteligencji (PSZT)

Wstęp do teorii sztucznej inteligencji Wykład II. Uczenie sztucznych neuronów.

Prof. Stanisław Jankowski

Wstęp do sieci neuronowych laboratorium 01 Organizacja zajęć. Perceptron prosty

Narzędzia AI. Jakub Wróblewski Pokój SZTUCZNA INTELIGENCJA (ARTIFICIAL INTELLIGENCE)

Temat: Sieci neuronowe oraz technologia CUDA

Sztuczne sieci neuronowe (SNN)

IMPLEMENTACJA SIECI NEURONOWYCH MLP Z WALIDACJĄ KRZYŻOWĄ

Algorytm wstecznej propagacji błędów dla sieci RBF Michał Bereta

Inteligencja. Władysław Kopaliśki, Słownik wyrazów obcych i zwrotów obcojęzycznych

8. Neuron z ciągłą funkcją aktywacji.

Sztuczna inteligencja stan wiedzy, perspektywy rozwoju i problemy etyczne. Piotr Bilski Instytut Radioelektroniki i Technik Multimedialnych

Zastosowania sieci neuronowych

Literatura. Sztuczne sieci neuronowe. Przepływ informacji w systemie nerwowym. Budowa i działanie mózgu

Sieci neuronowe i ich ciekawe zastosowania. Autor: Wojciech Jamrozy III rok SMP / Informatyka

Projekt Sieci neuronowe

wiedzy Sieci neuronowe

Metody Sztucznej Inteligencji II

HAŁASU Z UWZGLĘDNIENIEM ZJAWISK O CHARAKTERZE NIELINIOWYM

Automatyczna predykcja. Materiały/konsultacje. Co to jest uczenie maszynowe? Przykład 6/10/2013. Google Prediction API, maj 2010

Uniwersytet w Białymstoku Wydział Ekonomiczno-Informatyczny w Wilnie SYLLABUS na rok akademicki 2012/2013

Machine learning Lecture 6

Sieci neuronowe w Statistica

Rozpoznawanie obrazów

Temat: Sztuczne Sieci Neuronowe. Instrukcja do ćwiczeń przedmiotu INŻYNIERIA WIEDZY I SYSTEMY EKSPERTOWE

Inteligentne systemy decyzyjne: Uczenie maszynowe sztuczne sieci neuronowe

Stefan Sokołowski SZTUCZNAINTELIGENCJA. Inst. Informatyki UG, Gdańsk, 2009/2010

Wstęp do sieci neuronowych, wykład 02 Perceptrony c.d. Maszyna liniowa.

Sztuczne siei neuronowe - wprowadzenie

Sieci neuronowe w Statistica. Agnieszka Nowak - Brzezioska

O badaniach nad SZTUCZNĄ INTELIGENCJĄ

Sztuczna inteligencja

SZTUCZNA INTELIGENCJA

Wrocław University of Technology. Uczenie głębokie. Maciej Zięba

Wstęp do sieci neuronowych, wykład 03 Warstwy RBF, jednostka Adaline.

Dariusz Brzeziński Instytut Informatyki, Politechnika Poznańska

Wprowadzenie do teorii systemów ekspertowych

Historia sztucznej inteligencji. Przygotował: Konrad Słoniewski

ALGORYTMY SZTUCZNEJ INTELIGENCJI

Systemy agentowe. Uwagi organizacyjne i wprowadzenie. Jędrzej Potoniec

Wstęp do sieci neuronowych, wykład 02 Perceptrony c.d. Maszyna liniowa.

Sztuczna Inteligencja i Systemy Doradcze

O badaniach nad SZTUCZNĄ INTELIGENCJĄ

Sieć Hopfielda. Sieci rekurencyjne. Ewa Adamus. ZUT Wydział Informatyki Instytut Sztucznej Inteligencji i Metod Matematycznych.

Uczenie sieci typu MLP

Rozdział 1 Sztuczne sieci neuronowe. Materiały do zajęć dydaktycznych - na podstawie dokumentacji programu Matlab opracował Dariusz Grzesiak

Metody i techniki sztucznej inteligencji / Leszek Rutkowski. wyd. 2, 3 dodr. Warszawa, Spis treści

Optymalizacja optymalizacji

Systemy pomiarowo-diagnostyczne. Metody uczenia maszynowego wykład III 2016/2017

ZACHODNIOPOMORSKI UNIWERSYTET TECHNOLOGICZNY W SZCZECINIE

TEORETYCZNE PODSTAWY INFORMATYKI

Deep Learning na przykładzie Deep Belief Networks

Wprowadzenie do sieci neuronowych i zagadnień deep learning

Wprowadzenie do Sieci Neuronowych lista zadań 1

Sztuczna inteligencja - wprowadzenie

Wstęp do sieci neuronowych, wykład 01 Neuron biologiczny. Model perceptronu prostego.

O badaniach nad SZTUCZNĄ INTELIGENCJĄ

Oprogramowanie Systemów Obrazowania SIECI NEURONOWE

Systemy agentowe. Sieci neuronowe. Jędrzej Potoniec

Systemy agentowe. Sieci neuronowe. Jędrzej Potoniec

Sztuczne sieci neuronowe

Podstawy Sztucznej Inteligencji Sztuczne Sieci Neuronowe. Krzysztof Regulski, WIMiIP, KISiM, B5, pok. 408

ID1SII4. Informatyka I stopień (I stopień / II stopień) ogólnoakademicki (ogólno akademicki / praktyczny) stacjonarne (stacjonarne / niestacjonarne)

AUTOMATYKA INFORMATYKA

Podstawy Sztucznej Inteligencji

Uczenie Wielowarstwowych Sieci Neuronów o

METODY INŻYNIERII WIEDZY

Wstęp do sieci neuronowych, wykład 02 Perceptrony c.d. Maszyna liniowa.

Metody Sztucznej Inteligencji Methods of Artificial Intelligence. Elektrotechnika II stopień ogólno akademicki. niestacjonarne. przedmiot kierunkowy

Inteligentne systemy przeciw atakom sieciowym

BIOCYBERNETYKA SIECI NEURONOWE. Akademia Górniczo-Hutnicza. Wydział Elektrotechniki, Automatyki, Informatyki i Inżynierii Biomedycznej.

Sieci M. I. Jordana. Sieci rekurencyjne z parametrycznym biasem. Leszek Rybicki. 30 listopada Leszek Rybicki Sieci M. I.

Sieci neuronowe i algorytmy uczenia Czyli co i jak andrzej.rusiecki.staff.iiar.pwr.wroc.pl s.

ELEMENTY SZTUCZNEJ INTELIGENCJI. Sztuczne sieci neuronowe

Alan M. TURING. Matematyk u progu współczesnej informatyki

Rozpoznawanie obrazów

Sztuczne Sieci Neuronowe. Wiktor Tracz Katedra Urządzania Lasu, Geomatyki i Ekonomiki Leśnictwa, Wydział Leśny SGGW

Statystyka opisowa. Wykład V. Regresja liniowa wieloraka

Wstęp do sztucznych sieci neuronowych

Tomasz Pawlak. Zastosowania Metod Inteligencji Obliczeniowej

Prognozowanie kierunku ruchu indeksów giełdowych na podstawie danych historycznych.

WYKORZYSTANIE SZTUCZNYCH SIECI NEURONOWYCH W PROGNOZOWANIU

Podstawy sztucznej inteligencji

1. Logika, funkcje logiczne, preceptron.

SZTUCZNA INTELIGENCJA

Wyznaczanie strategii w grach

Politechnika Warszawska

Wstęp do głębokich sieci neuronowych. Paweł Morawiecki IPI PAN

Festiwal Myśli Abstrakcyjnej, Warszawa, Czy SZTUCZNA INTELIGENCJA potrzebuje FILOZOFII?

Elementy kognitywistyki III: Modele i architektury poznawcze

Sieci neuronowe do przetwarzania informacji / Stanisław Osowski. wyd. 3. Warszawa, Spis treści

Zastosowania sieci neuronowych

Zastosowanie metod eksploracji danych Data Mining w badaniach ekonomicznych SAS Enterprise Miner. rok akademicki 2013/2014

Transkrypt:

Technologie cyfrowe semestr letni 2018/2019 Tomasz Kazimierczuk Wykład 10 (06.05.2019)

Szachy Liczba możliwości: Pierwsze posunięcie białych: 20 Pierwsze posunięcie czarnych: 20 Ruch biały-czarny: 20 x 20 = 400 Ruch biały-czarny-biały: 8092 2 ruchy ( biały-czarny-biały-czarny): 197281 3 ruchy: 119 milionów 4 ruchy: 85 miliardów 5 ruchów: 69 bilionów

Mechaniczny Turek (1769)

Szachy Claude Shannon, 1950: liczba możliwych partii szachów: 10 120 Wniosek: stworzenie doskonałego programu szachowego nie jest możliwe Alan Turing, 1951: pierwszy algorytm szachowy; potwierdzenie opinii Shannona Deep Blue, 1997 Alpha Zero, 2017 AlphaZero rozegrała 100 partii z programem Stockfishem analizującym 70 milionów ruchów w sekundę. Wygrała 28 partii, pozostałe 72 zremisowała.

Go Starochińska gra, uznawana za trudniejszą niż szachy 2015 AlphaGo pokonuje mistrza Europy 5:0 2016 AlphaGo pokonuje 18-krotnego arcymistrza Lee Sedol wynikiem 4:1

Starcraft 2 (RTS) Mnogość strategii przy niepełnej informacji Wielopoziomowość 2019 AlphaStar pokonuje zawodnika z najwyższym rankingiem MMR (o pseudonimie Mana) 5:0 https://www.youtube.com/watch?v=pfmrdm_h9sg

Rozpoznwanie pisma odręcznego

Sztuczna inteligencja Inteligencja: zdolność ludzkiego intelektu do rozwiązywania problemów Sztuczna inteligencja: zdolność maszyny do rozwiązywania problemów, które wymagałyby inteligencji Rozumiana: Wąsko: inteligentne techniki obliczeniowe służące wykonaniu trudnych zadań Szeroko: zdolność maszyny do symulowania myślenia ludzkiego

Sztuczna inteligencja w wąskim rozumieniu Najważniejsze zadania: przeszukiwanie - znajdowanie rozwiązań z określonego zbioru bez pełnego przeglądania wszystkich możliwości wnioskowanie - stosowanie reguł wnioskowania prowadzące do docelowego twierdzenia uczenie się modyfikacja systemu na podstawie doświadczeń lub przykładowych danych, prowadząca do poprawienia sprawności rozwiązywania zadań i przewidywania People who bought Da Vinci Code also bought The Five People You Meet in Heaven (www.amazon.com)

Sztuczna inteligencja w szerokim rozumieniu W 1950 roku A. Turing zaproponował by możliwość udawania człowieka w zdalnej rozmowie uznać za test inteligencji maszyn Turing, A.M., Computing machinery and intelligence, Mind 59, 433 (1950).

Podstawowa terminologia Source: Nvidia

Sieci neuronowe

Sieci neuronowe Podstawowy element: perceptron (1950-60, Frank Rosenblatt) w 1 w 2 w 3

Perceptron - przykład działania Decyzja do podjęcia: czy jechać na koncert pod miastem Składowe decyzji: x 1 = Czy dobry dojazd (0/1) x 2 = Czy znajomi jadą (0/1) x 3 = Czy pogoda będzie dobra (0/1) w 1 w 2 w 3 Każdy czynnik wchodzi ze swoją wagą: w 1, w 2, w 3 Decyzja na tak, jeśli suma większa niż ustalony próg. Jeśli suma poniżej progu decyzja na nie.

wektory Wygodniejsza notacja

Regresja liniowa Metoda estymowania wartości zmiennej zależnej y w oparciu o znaną/e wartość/wartości zmiennej niezależnej x Przykład: metoda najmniejszych kwadratów Kwartet Anscombe a Podobne wskaźniki statystyczne, choć różny charakter danych Metoda niedoskonała!

Sieć neuronowa Pierwsza warstwa (ang. layer) Druga warstwa + wagi na każdym wejściu (niezaznaczone na rysunku)

Aby mała zmiana wartości wag dawała małą zmianę w ostatecznym wyniku, a duża zmiana nie powodowała problemów ze stabilnością: regresja liniowa regresja logistyczna perceptron neuron sigmoidalny

Funkcje sigmoidalne jako funkcje aktywacji - przykłady Funkcja unipolarna: Funkcja bipolarna (tangens hiperboliczny): ReLU y(x) = max(0,x)

Uczenie się sieci neuronowej (ang. machine learning) Przykładowa procedura rekurencyjna: Wkładamy wartości wejściowe i losowe wagi i sprawdzamy czy dostaliśmy poprawną odpowiedź na wyjściu (0 lub 1). Jeśli niedobry wynik, poprawiamy wartości wag w kolejnych warstwach w oparciu o ich wkłady do całkowitej wartości błędu (tzw. wsteczna propagacja błędu). Próbujemy ponownie. Kończymy procedurę, gdy wartość błędu zbiega poniżej zadanej wartości.

Wizualizacja uczenia się sieci neuronowej http://playground.tensorflow.org/

Rozpoznawanie obrazu Wg. https://ujjwalkarn.me/2016/08/11/intuitive-explanation-convnets/

Rozpoznawanie obrazu Każdy obraz można przedstawić jako macierz, której składowymi są wartości odzwierciedlające intensywność pikseli

Rozpoznawanie obrazu Macierz Filtr Konwolucja

Rozpoznawanie obrazu dla jednego obrazka budujemy kilka map cech korzystając z różnych filtrów

Rozpoznawanie obrazu dla jednego obrazka budujemy wiele map cech korzystając z różnych filtrów

Wprowadzamy nieliniowość przez funkcję ReLU Rozpoznawanie obrazu

Rozpoznawanie obrazu aby nie przeuczyć sieci i zredukować liczbę parametrów / ilość informacji przesyłanych do kolejnych warstw korzystamy z tzw. pooling layers, najczęściej jest to maxpooling

Rozpoznawanie obrazu

Rozpoznawanie obrazu Rozpoznawanie odręcznie pisanych cyfr: http://scs.ryerson.ca/~aharley/vis/conv/ Rozpoznawanie obiektów na obrazie w czasie rzeczywistym: https://www.youtube.com/watch?v=ae1ka0jy0xg

AI - korzyści Nowe, fascynujące perspektywy poznawcze Oszczędne projektowanie (przedmiotów, domów, procedur, ) Przewidywanie anomalii pogodowych Tłumaczenie tekstu na inne języki Lepsza kontrola jakości Poprawa bezpieczeństwa Poprawa trafności diagnostyki medycznej

https://futurism.com/incrediblyrealistic-faces-generated-neuralnetwork https://www.youtube.com/wat ch?time_continue=356&v=kslj riaouma

AI zagrożenia Bill Gates: Nie rozumiem, czemu niektórzy się nie przejmują Rozpoznawanie obiektów na obrazie w czasie rzeczywistym: https://www.youtube.com/watch?v=ae1ka0jy0xg

Hiper-wojny AI - zagrożenia The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation Pełen raport: https://maliciousaireport.godaddysites.com/ Zaawansowane manipulacje obrazem, filmem, dźwiękiem https://youtu.be/amuc4m6w1wo

AI - zagrożenia Zmiany na rynku pracy Cyber ataki nowego typu Manipulacja opinią z wykorzystaniem wielu danych Brak prywatności

xkcd.com

Dla zainteresowanych: Prosta sieć neuronowa DIY: https://machinelearningmastery.com/tutorialfirst-neural-network-python-keras/ MNIST - 60 tys. obrazków przedstawiających ręcznie napisane cyfry - 20x20 px http://yann.lecun.com/exdb/mnist/

https://github.com/hftrader/deeplearningbook Podręczniki, książki: Dobry kurs online: https://www.coursera.org/specializations/deep-learning