Meta-uczenie co to jest?

HTML
DOWNLOAD

Wielkość: px

Rozpocząć pokaz od strony:

Download "Meta-uczenie co to jest?"

Eugeniusz Karczewski
6 lat temu
Przeglądów:

1 Meta-uczenie co to jest? Uczenie się tego jak się uczyć Uwolnienie się od uciażliwego doboru MODELU i PAREMETRÓW modelu. Bachotek05/1

2 Cele meta-uczenia Pełna ale kryterialna automatyzacja modelowania danych Zrobić nie mniej niż tocomybyśmy potrafili dla określonych danych Najlepsze modele pod katem pewnego kryterium (np. poprawnej poprawność klasyfikacji, inne testy statystyczne) Acc(M) αstd(m) Bachotek05/2

3 Zbiór najciekawszych modeli: o małej złożoności prosto opisujacych problem reguły i prototypy selekcje cech np. jako ilustracja cech niezbędnych lub ich ekwiwalentnych podzbiorów wizualizacje (tu trudniej auto weryfikację) Bachotek05/3

4 Przeglad... Bachotek05/4

5 Meta-uczenie Aspekt złożonościowy złożoność modeli konstruowanych do przeszukiwania złożoność koncepcyjna Metody automatyzacji procesu doboru parametrów CV-learning (+różne strategie), dodatkowe funkcje kryterialne Bachotek05/5

6 Przestrzeń bazowa modeli Różne klasy algorytmów: klasyfikatory, slelekcje/ekstrakcje cech i ptototypów, klasteryzacja, wizualizacja, komitety etc. Różnorodność typów modeli bazowych różne klasyfikatory, różne selekcje, etc. Nie ma jednego algorytmu najlepszego... Baza powinna składać się nie tylko z supermenów Utrzymywanie nieredundantnej przestrzeni modeli w p.p. eksploracja skazana na tautologie Bachotek05/6

7 Ł aczenie transformacji i modeli klasyfikujacych Niewystarczalność modeli pojedynczych Duże dane najczęściej wymagaja transformacji przed procesem uczenia klasyfikatora czy aproksymatora Różne typy transformacji Czasem trzeba użyćci agu transformacji Auto-transformery ubieraja model w TR&CL, realizuja konieczne pre-transformacje pro-modelowe (dyskretyzacje, uciaglania, i inne) Bachotek05/7

8 Poszukiwanie (złożonych) modeli / składniki ML Dobór transformacji do modelu Poszukiwania parametrów wolnych modelu np. dobór parametrów selekcji meta-selekcja Reguły ręczne i generowane co warto sprawdzać? różna wiedza a priori kierunkowanie przeszukiwania gromadzenie doświadczeń w czasie adaptowalne Bachotek05/8

9 różne aspekty, o typach modeli CL, o transformacjach (selekcje, prototypy, PCA), o modelach złożonych budowanie reguł z doświadczeń doświadczenia jedno-zbiorowe i multi-zbiorowe Unifikatory/schematy i szeregi pamięciowe (ścieżka+model, ścieżka+unifikator) Bachotek05/9

10 ISTOTNE: przeszukiwania na różnych poziomach złożoności koncepcyjnej: przestrzeń parametrów, przestrzeń modeli bazowych, TR&CL unifikatory, ścieżki duże skoki jakościowe czyli daleko, daleko od AE czy GE zawężanie się do poszukiwania wyłacznie parametrów badź modelu bazowego nie eksploruje tak efektywnie Bachotek05/10

11 Moduł propagacji i kontroli generuje modele (złożone) do kolejnych uruchomień unikanie przebadanych podprzestrzeni pamięć konfiguracji korzystanie z aktualnej wiedzy (wiedza "pokoleniowa" + wiedza bieżacego startu) charakter propagacji w czasie zmienny (bliżej finalnych rozwiazań szukamy gęściej) kontrola "żyjacych modeli" złożonościowo czasowa jakościowa (modele wstępnie źle ocenione sa przerywane) Bachotek05/11

12 Kolekcjoner analiza rezultatów zbadanego modelu zbieranie/uaktualnia informacji o najciekawszych modelach modyfikuje wiedzę dla różnych kontekstów (może była fajna selekcja?) przebudowa strategii dla modułu propagacji Bachotek05/12

13 My też Bardzo Dziękujemy! Bachotek05/13

Podobne dokumenty

Ontogeniczne sieci neuronowe. O sieciach zmieniających swoją strukturę

Ontogeniczne sieci neuronowe. O sieciach zmieniających swoją strukturę Norbert Jankowski Ontogeniczne sieci neuronowe O sieciach zmieniających swoją strukturę Warszawa 2003 Opracowanie książki było wspierane stypendium Uniwersytetu Mikołaja Kopernika Spis treści Wprowadzenie