Vidéo: K Means Clustering Algorithm | K Means Example in Python | Machine Learning Algorithms | Edureka 2024
K est une entrée de l'algorithme pour l'analyse prédictive; il représente le nombre de groupements que l'algorithme doit extraire d'un ensemble de données, exprimé algébriquement en k . Un algorithme K-means divise un ensemble de données donné en clusters k . L'algorithme effectue les opérations suivantes:
-
Choisissez k éléments aléatoires de l'ensemble de données et étiquetez-les comme des représentants de cluster.
-
Associez chaque élément restant de l'ensemble de données au représentant de grappe le plus proche, en utilisant une distance euclidienne calculée par une fonction de similarité.
-
Recalculez les représentants des nouveaux clusters.
-
Répétez les étapes 2 et 3 jusqu'à ce que les groupes ne changent pas.
Un représentant d'un cluster est la moyenne (moyenne) mathématique de tous les éléments appartenant au même cluster. Ce représentant est également appelé cluster centroid . Par exemple, considérons trois éléments de l'ensemble de données fruits où
Le type 1 correspond aux bananes.
Le type 2 correspond aux pommes.
La couleur 2 correspond au jaune.
La couleur 3 correspond au vert.
En supposant que ces éléments sont affectés au même groupe, le centroïde de ces trois éléments est calculé.
| Article | Caractéristique # 1 Type | Caractéristique # 2 Couleur | Caractéristique # 3 Poids (Onces) |
|---|---|---|---|
| 1 | 1 | 2 | 5. 33 |
| 2 | 2 | 3 | 9. 33 |
| 3 | 1 | 2 | 2. 1 |
Voici les calculs d'un cluster représentatif de trois éléments appartenant au même cluster. Le représentant du cluster est un vecteur de trois attributs. Ses attributs sont la moyenne des attributs des éléments du cluster en question.
| Article | Caractéristique # 1 Type | Caractéristique # 2 Couleur | Caractéristique # 3 Poids (Onces) |
|---|---|---|---|
| 1 | 1 | 2 | 5. 33 |
| 2 | 2 | 3 | 9. 33 |
| 3 | 1 | 2 | 2. 1 |
| Représentant du cluster (vecteur centroïde) | (1 + 2 + 1) / 3 = 1. 33 | (2 + 3 + 2) / 3 = 2. 33 | (5,33 + 9,33 +32,1) / 3 = 3 |
L'ensemble de données présenté ci-après comprend sept évaluations de deux produits, A et B par les clients. Le classement représente le nombre de points (entre 0 et 10) que chaque client a donné à un produit - plus il y a de points, plus le produit est classé.
En utilisant un algorithme K-means et en supposant que k est égal à 2, l'ensemble de données sera partitionné en deux groupes. Le reste de la procédure ressemble à ceci:
-
Choisissez deux éléments aléatoires dans l'ensemble de données et étiquetez-les comme des représentants de cluster.
Voici l'étape initiale de sélection des centroïdes aléatoires à partir desquels commence le processus de mise en grappe K-means.Les centroïdes initiaux sont sélectionnés au hasard parmi les données que vous êtes sur le point d'analyser. Dans ce cas, vous recherchez deux clusters, donc deux éléments de données sont sélectionnés aléatoirement: Clients 1 et 5.
Au début, le processus de mise en cluster construit deux clusters autour de ces deux représentants de clusters initiaux (sélectionnés au hasard). Ensuite, les représentants du cluster sont recalculés. le calcul est basé sur les éléments de chaque grappe.
ID client Classements client du produit A Classements client du produit B 1 2 2 2 3 4 3 < 6 8 4 7 10 5 10 14 6 9 10 7 7 9 Inspectez tous les autres éléments (client) et attribuez-le au représentant de cluster auquel il est le plus similaire. -
Utilisez la distance euclidienne
pour calculer à quel point un élément est similaire à un groupe d'éléments: Similitude de l'élément I au cluster X = sqrt {{{left ({{f_1} - {x_1 }} à droite)} ^ 2} + {{left ({{f_2} - {x_2}} à droite)} ^ 2} + cdots + {{left ({{f_n} - {x_n}} à droite)} ^ 2} }
Les valeurs {f_1},; {f_2},; ldots,; {f_n} sont les valeurs numériques des entités décrivant l'objet en question. Les valeurs {x_1},; {x_2},; ldots,; {x_n} sont les entités (valeurs moyennes) du représentant du cluster (centroïde), en supposant que chaque élément possède des caractéristiques
n . Par exemple, considérons l'article appelé Client 2 (3, 4): La note du client pour le produit A était de 3 et la note pour le produit B était de 4. La caractéristique représentant un cluster est (2, 2). La similarité entre le client 2 et le cluster 1 est calculée comme suit:
Similarité de l'élément 2 vers le cluster 1 = sqrt {{{left ({3 - 2} right)} ^ 2} + {{left ({4 - 2 } right}} 2}} = 2. 23
Voici à quoi ressemble le même processus avec le cluster 2:
Similarité de l'article 2 vers le cluster 2 = sqrt {{{left ({3 - 10} right) } ^ 2} + {{left ({4 - 14} right)} ^ 2}} = 12. 20
En comparant ces résultats, vous attribuez l'élément 2 (Customer 2) au cluster 1 car les chiffres indiquent L'élément 2 est plus similaire à Cluster 1.
Applique la même analyse de similarité à tous les autres éléments de l'ensemble de données.
-
Chaque fois qu'un nouveau membre rejoint un cluster, vous devez recalculer le représentant du cluster.
Ceci représente les résultats de la première itération de l'algorithme K-mean. Notez que
k est égal à 2, donc vous recherchez deux clusters, qui divisent un ensemble de clients en deux groupes significatifs. Chaque client est analysé séparément et affecté à l'un des clusters en fonction de la similarité du client avec chacun des représentants de cluster actuels. Réitérez l'ensemble de données en parcourant chaque élément; calculer la similarité entre chaque élément et son représentant de groupe actuel.
-
Remarquez que le client 3 est passé du cluster 1 au cluster 2. En effet, la distance entre le client 3 et le cluster représentatif du cluster 2 est plus proche que celle du cluster 1.
Représentant du cluster (vecteur centroïde) < Cluster 1
ID client n ° 1 (2, 2) Cluster 2 ID client n ° 5 (10, 14) Itération n ° 1 Cluster client 1 Cluster client 2 Client à examiner Identifiants du client appartenant au cluster 1 Représentant du cluster Identifiants du client appartenant au cluster 1 Représentant du cluster 1 (2, 2) > 5 (10, 14) 2 1, 2 (2.4, 3) 5 (10, 14) 3 1, 2, 3 (3,6, 4,6) 5 (10, 14) 4 1, 2, 3 (3,6, 4,6) 4, 5 (8,4, 12) 6 1, 2, 3 (3,6, 4,6) 4, 5, 6 (8,6, 11,4) 7 1, 2, 3 > (3.6, 4. 6) 4, 5, 6, 7 (8. 2, 10. 8) Voici une deuxième itération de l'algorithme K-means sur les données client. Chaque client est en cours de ré-analyse. Le client 2 est affecté au cluster 1 car le client 2 est plus proche du représentant du cluster 1 que du cluster 2. Le même scénario s'applique au client 4. Notez qu'un représentant de cluster est recalculé chaque fois qu'un nouveau membre est affecté à un cluster. itération 2 Cluster client 1 Cluster client 2
Client à examiner
| ID client appartenant au cluster 1 | Cluster Representative | ID client appartenant au cluster 2 > Représentant du Cluster | ||
|---|---|---|---|---|
| 1 | 1 | (3.6, 4. 6) | 5 | (8. 2, 10. 8) |
| 2 | 1, 2 < (5, 2, 3) | 5 | (8,2, 10,8) | 3 |
| 1, 2 | (5,2, 3) | 5, 3 | (7,8, 10,2) | 4 |
| 1, 2 | (5,2, 3) | 4, 5,3 | (7,8, 10 2) | 6 |
| 1, 2 | (5,2, 3) | 4, 5, 6,3 | (7,8, 10,2) | 7 < 1, 2 |
| (5,2, 3) | 3, 4, 5, 6, 7 | (7,8, 10,2) |
