正文

新手必学：KMeans聚类算法从入门到实战，编程实现轻松上手

/0 浏览量
0413

什么是KMeans聚类算法？

KMeans聚类算法是一种无监督学习算法，用于将相似的数据点分组在一起，形成不同的簇。它通过迭代的方式，不断优化簇中心，直到收敛。KMeans算法的核心思想是将每个簇的中心定义为该簇内所有数据点的均值。

KMeans聚类算法的基本原理

  1. 选择初始聚类中心：从数据集中随机选择K个数据点作为初始聚类中心。
  2. 分配数据点：计算每个数据点到每个聚类中心的距离，将数据点分配到距离最近的聚类中心所在的簇。
  3. 更新聚类中心：计算每个簇中所有数据点的均值，作为新的聚类中心。
  4. 迭代：重复步骤2和3，直到聚类中心不再发生显著变化，即算法收敛。

KMeans聚类算法的特点

  • 简单易实现：KMeans算法的实现非常简单，易于理解和使用。
  • 效率高：对于大规模数据集，KMeans算法的效率较高。
  • 对初始聚类中心敏感：KMeans算法对初始聚类中心的选取比较敏感，可能需要多次尝试才能得到较好的结果。

KMeans聚类算法的编程实现

下面以Python为例，介绍如何实现KMeans聚类算法。

1. 导入必要的库

import numpy as np
import matplotlib.pyplot as plt

2. 定义KMeans类

class KMeans:
    def __init__(self, n_clusters=3, max_iter=300, tol=1e-4):
        self.n_clusters = n_clusters
        self.max_iter = max_iter
        self.tol = tol
        self.centroids = None
        self.labels_ = None

    def fit(self, X):
        # 选择初始聚类中心
        self.centroids = X[np.random.choice(X.shape[0], self.n_clusters, replace=False)]

        for _ in range(self.max_iter):
            # 分配数据点
            distances = np.sqrt(((X - self.centroids[:, np.newaxis])**2).sum(axis=2))
            self.labels_ = np.argmin(distances, axis=0)

            # 更新聚类中心
            new_centroids = np.array([X[self.labels_ == k].mean(axis=0) for k in range(self.n_clusters)])
            if np.linalg.norm(new_centroids - self.centroids) < self.tol:
                break
            self.centroids = new_centroids

    def predict(self, X):
        distances = np.sqrt(((X - self.centroids[:, np.newaxis])**2).sum(axis=2))
        return np.argmin(distances, axis=0)

3. 生成数据并应用KMeans算法

from sklearn.datasets import make_blobs

# 生成数据
X, _ = make_blobs(n_samples=300, centers=4, cluster_std=0.60, random_state=0)

# 创建KMeans对象
kmeans = KMeans(n_clusters=4)

# 训练模型
kmeans.fit(X)

# 预测标签
labels = kmeans.predict(X)

# 绘制结果
plt.scatter(X[:, 0], X[:, 1], c=labels, cmap='viridis')
plt.scatter(kmeans.centroids[:, 0], kmeans.centroids[:, 1], s=300, c='red')
plt.show()

总结

KMeans聚类算法是一种简单易用的聚类算法，适用于大规模数据集。本文介绍了KMeans聚类算法的基本原理、编程实现以及应用示例。希望本文能帮助你更好地理解和应用KMeans聚类算法。

-- 展开阅读全文 --