大数据分析 - K 均值聚类

k-means聚类旨在将n个观测值划分为k个簇，其中每个观测值属于具有最接近均值的簇，作为簇的原型。这导致数据空间被划分为 Voronoi 单元。

给定一组观测值(x ₁ , x ₂ , …, x _n )，其中每个观测值都是 d 维实向量，k 均值聚类旨在将 n 个观测值划分为 k 组G = {G ₁ , G ₂ , …, G _k }以便最小化簇内平方和 (WCSS)，定义如下 -

$$argmin \: \sum_{i = 1}^{k} \sum_{x \in S_{i}}\parallel x - \mu_{i}\parallel ^2$$

后面的公式显示了为了找到 k 均值聚类中的最佳原型而最小化的目标函数。该公式的直觉是，我们希望找到彼此不同的组，并且每个组的每个成员应该与每个簇的其他成员相似。

以下示例演示了如何在 R 中运行 k-means 聚类算法。

library(ggplot2)
# Prepare Data 
data = mtcars  

# We need to scale the data to have zero mean and unit variance 
data <- scale(data)  

# Determine number of clusters 
wss <- (nrow(data)-1)*sum(apply(data,2,var)) 
for (i in 2:dim(data)[2]) { 
   wss[i] <- sum(kmeans(data, centers = i)$withinss) 
}  

# Plot the clusters 
plot(1:dim(data)[2], wss, type = "b", xlab = "Number of Clusters", 
   ylab = "Within groups sum of squares")

为了找到一个好的 K 值，我们可以绘制不同 K 值的组内平方和。该指标通常会随着添加更多组而减少，我们希望找到一个点，使组内平方和减少正方形的数量开始缓慢减少。在图中，该值最好用 K = 6 表示。

现在 K 的值已经定义，需要使用该值运行算法。

# K-Means Cluster Analysis
fit <- kmeans(data, 5) # 5 cluster solution 

# get cluster means  
aggregate(data,by = list(fit$cluster),FUN = mean) 

# append cluster assignment 
data <- data.frame(data, fit$cluster)