Inteligentna analiza danych

Transkrypt

1 Numer indeksu Michał Moroz Imię i nazwisko Numer indeksu Grzegorz Graczyk Imię i nazwisko kierunek: Informatyka rok akademicki: 2010/2011 Inteligentna analiza danych Ćwiczenie I Wskaźniki statystyczne Ocena:

2 Streszczenie Sprawozdanie z ćwiczenia, którego celem było statystyczne przeanalizowanie zbiorów danych. 1 Teoria W tym rozdziale zostaną omówione pokrótce poszczególne zagadnienia związane z tematem przeprowadzanego ćwiczenia. 1.1 Miary pozycyjne W zadaniu wykorzystano dwie miary pozycyjne. Pierwszą z nich jest dominanta D, która dla dyskretnego zbioru danych jest wartością najczęściej występującą w zestawie danych. Ponieważ dominanta nie jest miarą unikalną (więcej niż jedna wartość zmiennej losowej może mieć tą samą ilość wystąpień, co jest często spotykane w rozkładach jednostajnych), poczyniono następne uproszeczenie, które traktuje rozkład jako zbliżony do rozkładu gaussa i w wypadku więcej niż jednej wartości dominanty wyznacza medianę ze znalezionych wartości. Drugą z miar pozycyjnych są kwantyle. Kwantyl rzędu p w zbiorze dyskretnym to taka wartość zmiennej losowej, od której p-ta część zbioru zawiera mniejsze wartości. Szczególnym jego przypadkiem jest mediana Me x będąca kwantylem rzędu 1 2 wyznaczająca środek rozkładu (przy założeniu rozkładu Gaussa). 1.2 Średnie Średnia potęgowa to średnia o rzędzie k, którą definiuje się w następujący sposób: x k = k a k 1 + ak ak n n Można zauważyć, że dla k = 1 średnia ta staje się średnią arytmetyczną, dla k = 1 średnia staje się średnią harmoniczną. Dla k = 0 średnią potęgową definiujemy za pomocą wzoru na średnią geometryczną. 1.3 Moment centralny Moment centralny definiuje się jako wartość oczekiwaną (za którą można arbitralnie przyjąć jedną z powyższych miar) funkcji: [ µ k = E (X E [X]) k] (2) Drugi moment centralny nazywany jest wariancją i określa stopień odchylenia wartości od wartości oczekiwanej. Pierwiastek z wariancji nazwany jest odchyleniem standardowym i określa średnie bezwzględne odchylenie wartości obserwowanych od wartości oczekiwanej. Trzeci moment centralny pozwala nam sądzić o asymetrii rozkładu. Dla rozkładu symetrycznego miara ta jest równa zero, dla niesymetrycznego, jej znak pozwala określić dłuższe ramię rozkładu (lewe dłuższe ramię dla znaku ujemnego i prawe dłuższe ramię w odwrotnym przypadku). (1) Michał Moroz, Grzegorz Graczyk, ćw. I 2 / 15

3 1.4 Kurtoza i momenty standaryzowane Momentem standaryzowanym określa się k-ty moment centralny po podzieleniu przez odchylenie standardowe podniesione do k-tej potęgi. Takie podejście pozwala nam szacować względne dokładności pomiarów niezależnie od rozpiętości i wartości wyników. Trzecim momentem standaryzowanym określa się skośność rozkładu. Wartość ta jest podobna do trzeciego momentu centralnego, ale jest niezależna od rozpiętości przedziału wartości. Czwartym momentem standaryzowanym jest kurtoza, która pozwala nam na określenie spłaszczenia rozkładu wartości cechy. Rozkład normalny ma kurtozę równą zero, dodatnia wartość określa większe skupienie wartości dookoła wartości oczekiwanej. 1.5 Współczynniki skośności Pearsona Są to współczynniki określone empirycznie przez Pearsona, definiuje się je za pomocą następujących wzorów: P 1 = x D σ (3) P 2 = 3 x Me x (4) σ Gdzie Me x to mediana, x to średnia arytmetyczna, D to dominanta, a σ to odchylenie standardowe. 2 Wyniki analizy zestawu danych Iris 2.1 Petal Length Miary dla współczynnika PetalLength Iris-setosa Iris-versicolor Iris-virginica Średnia arytmetyczna Średnia geometryczna Średnia harmoniczna Mediana Dominanta Wariancja Odchylenie standardowe Kurtoza Trzeci moment centralny P P Pierwszy kwartyl Trzeci kwartyl Skośność Ciekawy, niegaussowski rozkład możemy zaobserwować na rysunku 3. Michał Moroz, Grzegorz Graczyk, ćw. I 3 / 15

4 Rysunek 1: Histogram: PetalLength, Iris-setosa Rysunek 2: Histogram: PetalLength, Iris-versicolor Michał Moroz, Grzegorz Graczyk, ćw. I 4 / 15

5 Rysunek 3: Histogram: PetalLength, Iris-virginica 2.2 Petal Width Miary dla współczynnika PetalWidth Miara Iris-virginica Iris-setosa Iris-versicolor Średnia arytmetyczna Średnia geometryczna Średnia harmoniczna Dominanta Pierwszy moment centralny Mediana Trzeci kwartyl Odchylenie standardowe Wariancja Kurtoza Trzeci moment centralny Pierwszy kwartyl Skośność P P Michał Moroz, Grzegorz Graczyk, ćw. I 5 / 15

6 Rysunek 4: Histogram: PetalWidth, Iris-setosa Rysunek 5: Histogram: PetalWidth, Iris-versicolor Michał Moroz, Grzegorz Graczyk, ćw. I 6 / 15

7 2.3 Sepal Length Rysunek 6: Histogram: PetalWidth, Iris-virginica Miary dla współczynnika SepalLength Miara Iris-virginica Iris-setosa Iris-versicolor Średnia arytmetyczna Średnia geometryczna Średnia harmoniczna Dominanta Pierwszy moment centralny Mediana Trzeci kwartyl Odchylenie standardowe Wariancja Kurtoza Trzeci moment centralny Pierwszy kwartyl Skośność P P Michał Moroz, Grzegorz Graczyk, ćw. I 7 / 15

8 Rysunek 7: Histogram: SepalLength, Iris-setosa Rysunek 8: Histogram: SepalLength, Iris-versicolor Michał Moroz, Grzegorz Graczyk, ćw. I 8 / 15

9 2.4 Sepal Width Rysunek 9: Histogram: SepalLength, Iris-virginica Miary dla współczynnika SepalLength Miara Iris-virginica Iris-setosa Iris-versicolor Średnia arytmetyczna Średnia geometryczna Średnia harmoniczna Dominanta Pierwszy moment centralny Mediana Trzeci kwartyl Odchylenie standardowe Wariancja Kurtoza Trzeci moment centralny Pierwszy kwartyl Skośność P P Michał Moroz, Grzegorz Graczyk, ćw. I 9 / 15

10 Rysunek 10: Histogram: SepalWidth, Iris-setosa Rysunek 11: Histogram: SepalWidth, Iris-versicolor Michał Moroz, Grzegorz Graczyk, ćw. I 10 / 15

11 2.5 Związki dwóch cech Rysunek 12: Histogram: SepalWidth, Iris-virginica Rysunek 13: Zależności SepalLength i SepalWidth Michał Moroz, Grzegorz Graczyk, ćw. I 11 / 15

12 Rysunek 14: Zależności SepalWidth i PetalLength Rysunek 15: Zależności PetalLength i PetalWidth Michał Moroz, Grzegorz Graczyk, ćw. I 12 / 15

13 Rysunek 16: Zależności SepalLength i PetalLength Rysunek 17: Zależności SepalLength i PetalWidth Michał Moroz, Grzegorz Graczyk, ćw. I 13 / 15

14 Rysunek 18: Zależności SepalWidth i PetalWidth 2.6 Wnioski Z powyższych danych wynika, że współczynnik PetalLength w łatwy sposób pozwala na rozdzielanie klasy abstrakcji Iris-setosa od dwóch pozostałych klas. Zakres wartości Petal- Length dla obserwacji z klasy Iris-setosa oraz dwóch pozostałych klas nie pokrywają się ze sobą. Rozróżnienie klas Iris-versicolor i Iris-virginica nie jest tak proste. Żaden z atrybutów w wektorze danych nie pozwala na jednoznaczne rozgraniczenie dwóchi pozostałych klas. Jednocześnie, z tak spreparowanymi danymi nie możemy jednoznacznie stwierdzić, że każda liniowa kombinacja czterech cech jest równie nieskuteczna do rozpoznawania tych dwóch klas. Więcej światła (przynajmniej ludzkiemu obserwatorowi) dają wykresy dwuwymiarowe pokazujące dwie cechy naraz. Również tam widzimy brak jednoznacznej liniowej rozróżnialności klas Iris-versicolor i Iris-virginica. Istnieją dwie teoretyczne możliwości rozpoznawania klas w takich sytuacjach. Jedną z nich jest stworzenie modelu, który w większości przypadków będzie zgodny (łatwo wyróżniamy centralne tendencje i możemy obliczyć funkcję prawdopodobieństwa, że dany obiekt leży w danej klasie. Drugą możliwością jest poszerzenie danych wejściowych o dodatkowe informacje, które być może przyczynią się do dalszego zróżnicowania klas abstrakcji Iris-versicolor i Iris-virginica. Dalej możnaby pokusić się o zanalizowanie korelacji poszczególnych współczynników z klasą abstrakcji obiektu. Dzięki temu moglibyśmy dojść do wniosku, że wyeliminowanie pewnej części danych nie wpłynie znacząco na rozpoznawalność klas, co może okazać się znaczącą optymalizacją przy przetwarzaniu dużych zbiorów danych. 3 Wnioski ogólne W ogólności, zadanie wyznaczania klas abstrakcji na podstawie innych danych będących niekoniecznie skorelowanymi z klasami abstrakcji jest dość trudne. Tylko jego część, obrabianie Michał Moroz, Grzegorz Graczyk, ćw. I 14 / 15

15 i preparacja danych nadaje się do maszynowego przetwarzania. Analiza otrzymanych wyników i odnajdywanie sensu w zależnościach stoi (nadal) po stronie człowieka. Przy analizowaniu danych warto nie zakładać rozkładu gaussowskiego, szczególnie jeśli korzystamy z rozmaitych miar do dalszych obliczeń. Rozkłady bi- oraz multimodalne mogą dać zupełnie nieprzewidywane wyniki. Wskaźnik kurtozy jest bardzo ciekawym wskaźnikiem, który, wraz z odchyleniem standardowym może nam pomóc aproksymować funkcję oczekiwanego rozkładu. Wskaźniki skośności mogą pomóc nam w dobraniu odpowiedniej miary wartości oczekiwanej tak, aby była jak najbardziej zgodna z rozkładem. Michał Moroz, Grzegorz Graczyk, ćw. I 15 / 15