笑看天下无敌手 发表于 2024-6-21 13:13:44

聚类层次【python,机器学习,算法】

层次聚类算法(Hierarchical Clustering Algorithm)是一种常用的无监视学习算法,用于将数据集分别成多个不同层次的簇。与K均值聚类不同,层次聚类不需要预先指定聚类数量,而是通过计算样本之间的相似度或距离来构建一个层次结构。
聚集层次算法有两种方式:

[*] 自下而上的合并(Agglomerate),其紧张步骤如下:

[*]将每个数据点视为单个聚集。因此,开始时我们将拥有 n 个聚集。开始时,数据点的数量也将为 n。
[*]计算 n 个集群之间的距离,计算距离的方法通常有以下几种:
[*]对于两个集群,取集群之间距离最近的两个样本点作为集群的距离。
[*]对于两个集群,取集群之间距离最远的两个样本点作为集群的距离。
[*]对于两个集群,分别计算两个集群内样本点的匀称距离,然后计算这两个匀称距离之间的距离。

[*]找出距离最近的两个集群,举行合并。
[*]通过以上三步,可以将样本点聚集想要的 K 个集群。
下面是一个该算法的 Python 实现:
import matplotlib.pyplot as plt
import numpy as np

# 设置了随机数种子,让随机数生成变得可重复,即在设置过后,每次运行代码得到的随机数都是一样的。
np.random.seed(0)

cluster1 = np.random.randn(30, 2) + np.array()
cluster2 = np.random.randn(30, 2) + np.array()
cluster3 = np.random.randn(30, 2) + np.array()
# 用于沿着垂直方向(行方向)堆叠数组,得到一个总的数据集
data = np.vstack()


# 1. 初始化每个数据点为一个独立的簇
def initialize_clusters(data):
    return [ for point in data]


# 2. 计算簇中心之间的距离
def compute_distances(clusters):
    distances = np.zeros((len(clusters), len(clusters)))
    for i in range(len(clusters)):
      for j in range(len(clusters)):
            if i != j:
                # 使用欧式距离计算两个簇的距离
                distances = np.sqrt(sum((np.mean(clusters,
                                                       axis=0) - np.mean(
                  clusters, axis=0)) ** 2))
    return distances


# 找距离最近的两个簇
def find_closest_clusters(distances):
    min_distance = np.inf
    # 用于保存最近两个簇对应的索引
    closest_clusters = None
    for i in range(len(distances)):
      for j in range(len(distances)):
            if i != j and distances < min_distance:
                min_distance = distances
                closest_clusters = i, j
    return closest_clusters


# 3. 合并最近的两个簇为一个新的簇,并更新簇中心点
def merge_clusters(clusters, closest_clusters):
    i, j = closest_clusters
    merged_cluster = clusters + clusters# 将最近的两个簇更新为一个簇
    new_clusters = [cluster for idx, cluster in enumerate(clusters) if
                  idx not in (i, j)]
    # 这里将没有合并的簇放进新的簇列表里面
    new_clusters.append(merged_cluster)
    return new_clusters


def hierarchical_clustering(data, k):
    # 初始化每个数据点为一个独立的簇
    clusters = initialize_clusters(data)

    # 开始迭代合并最相似的簇
    while len(clusters) > k:
      # 计算簇中心之间的距离,并找到最近的两个簇
      distances = compute_distances(clusters)
      closest_clusters = find_closest_clusters(distances)

      # 合并最近的两个簇为一个新的簇,并更新簇中心点
      clusters = merge_clusters(clusters, closest_clusters)

    return clusters


# 执行层次聚类算法
k = 4
clusters = hierarchical_clustering(data, k)

# 打印聚类结果
for idx, cluster in enumerate(clusters):
    print(f"Cluster {idx + 1}: ", cluster)

# 绘制聚类结果的图表
plt.figure(figsize=(8, 6))
colors = ["red", "green", "blue", "yellow"]

for i in range(k):
    for p in clusters:
      plt.scatter(x=p, y=p, color=colors)

plt.xlabel("X")
plt.ylabel("Y")
plt.title("Hierarchical Clustering")
plt.show()

[*] 自上而下的分解(Divisive)。

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页: [1]
查看完整版本: 聚类层次【python,机器学习,算法】