Podział metod

Uczenie nadzorowane - końcowy wynik jest znany

• klasyfikacja

• regresja

Uczenie nienadzorowane - końcowy wynik nie jest znany

• grupowanie obiektów

• grupowanie cech

Podział metod

Grupowanie

Metoda iteracyjna:

• funkcja kmeans()

• pakiet ClusterR

Metoda hierarchiczna:

• funkcja hclust()

• pakiet ggdendro

• pakiet clusterCrit

Idea

Liczenie odległości pomiędzy analizowanymi obiektami.

Cechy opisujące obiekty mogą być wyrażone w różnych jednostkach np. w segmentacji klientów:

• wiek w latach

• wydatki na zakupy

• liczba wizyt w sklepie

W związku z tym konieczna jest normalizacja cech czyli pozbawienie ich mian.

Najpopularniejszą metodą normalizacji jest standaryzacja:

$z=\frac{x-\overline{x}}{s}$

gdzie: $\overline{x}$ - średnia, $s$ - odchylenie standardowe.

Standaryzacja

Metoda k-średnich

1. Wskaż liczbę grup $k$.

2. Wybierz dowolne $k$ punktów jako centra grup.

3. Przypisz każdą z obserwacji do najbliższego centroidu.

4. Oblicz nowe centrum grupy.

5. Przypisz każdą z obserwacji do nowych centroidów. Jeśli któraś obserwacja zmieniła grupę - przejdź do kroków nr 3 i 4, a w przeciwnym przypadku zakończ algorytm.

Metoda k-średnich

źródło

Przykład

Segementacja klientów sklepu w oparciu o następujące dane:

• klientID - identyfikator klienta

• plec - płeć

• wiek - wiek

• roczny_dochod - roczny dochód wyrażony w tys. dolarów

• wskaznik_wydatkow - klasyfikacja sklepu od 1 do 100

Metoda hierarchiczna

1. Każda obserwacji stanowi jedną z $N$ pojedynczych grup.

2. Na podstawie macierzy odległości połącz dwie najbliżej leżące obserwacje w jedną grupę.

3. Połącz dwa najbliżej siebie leżące grupy w jedną.

4. Powtórz kroki nr 2 i 3, aż do uzyskania jednej grupy.

Dendrogram

źródło

Inne algorytmy grupowania

Algorytmów grupowania jest bardzo wiele.

• DBSCAN

• MeanShift

• GMM

Niektóre z nich mają na celu wykrywanie anomalii, dzieląc dane zawsze na dwie grupy - obserwacji nietypowych oraz typowych.

• Local Outlier Factor

• One Class SVM

Skuteczność algorytmów

Źródło: https://scikit-learn.org/stable/auto_examples/cluster/plot_cluster_comparison.html

Redukcja wymiarów

• PCA

• t-SNE

• UMAP

Wiele narzędzi do wizualizacji wyników można znaleźć w pakiecie factoextra.

Paradoks Simpsona

Efekt działania kilku grup wydaje się odwrócony, kiedy grupy są połączone.

• Nabór na Uniwersytecie w Berekley w 1951 roku: spośród kandydatów przyjęto 45% mężczyzn i 30% kobiet.

• Uniwersytet został oskarżony o seksizm i sprawa została skierowana do sądu.

Zbiór palmerpenguins

Zbiór danych na temat pingwinów