聚类层次【python，机器学习，算法】

层次聚类算法（Hierarchical Clustering Algorithm）是一种常用的无监视学习算法，用于将数据集分别成多个不同层次的簇。与K均值聚类不同，层次聚类不需要预先指定聚类数量，而是通过计算样本之间的相似度或距离来构建一个层次结构。
聚集层次算法有两种方式：

• 自下而上的合并(Agglomerate),其紧张步骤如下：
  
  
  
  • 将每个数据点视为单个聚集。因此，开始时我们将拥有 n 个聚集。开始时，数据点的数量也将为 n。
    
  • 计算 n 个集群之间的距离，计算距离的方法通常有以下几种：
    
    
    • 对于两个集群，取集群之间距离最近的两个样本点作为集群的距离。
      
    • 对于两个集群，取集群之间距离最远的两个样本点作为集群的距离。
      
    • 对于两个集群，分别计算两个集群内样本点的匀称距离，然后计算这两个匀称距离之间的距离。
      
    
    
  • 找出距离最近的两个集群，举行合并。
    
  • 通过以上三步，可以将样本点聚集想要的 K 个集群。
    下面是一个该算法的 Python 实现：
    
  1. import matplotlib.pyplot as plt
  2. import numpy as np
  4. # 设置了随机数种子，让随机数生成变得可重复，即在设置过后，每次运行代码得到的随机数都是一样的。
  5. np.random.seed(0)
  7. cluster1 = np.random.randn(30, 2) + np.array([0, 7])
  8. cluster2 = np.random.randn(30, 2) + np.array([8, 0])
  9. cluster3 = np.random.randn(30, 2) + np.array([8, 8])
  10. # 用于沿着垂直方向（行方向）堆叠数组，得到一个总的数据集
  11. data = np.vstack([cluster1, cluster2, cluster3])
  14. # 1. 初始化每个数据点为一个独立的簇
  15. def initialize_clusters(data):
  16.     return [[point] for point in data]
  19. # 2. 计算簇中心之间的距离
  20. def compute_distances(clusters):
  21.     distances = np.zeros((len(clusters), len(clusters)))
  22.     for i in range(len(clusters)):
  23.         for j in range(len(clusters)):
  24.             if i != j:
  25.                 # 使用欧式距离计算两个簇的距离
  26.                 distances[i][j] = np.sqrt(sum((np.mean(clusters[i],
  27.                                                        axis=0) - np.mean(
  28.                     clusters[j], axis=0)) ** 2))
  29.     return distances
  32. # 找距离最近的两个簇
  33. def find_closest_clusters(distances):
  34.     min_distance = np.inf
  35.     # 用于保存最近两个簇对应的索引
  36.     closest_clusters = None
  37.     for i in range(len(distances)):
  38.         for j in range(len(distances)):
  39.             if i != j and distances[i][j] < min_distance:
  40.                 min_distance = distances[i][j]
  41.                 closest_clusters = i, j
  42.     return closest_clusters
  45. # 3. 合并最近的两个簇为一个新的簇，并更新簇中心点
  46. def merge_clusters(clusters, closest_clusters):
  47.     i, j = closest_clusters
  48.     merged_cluster = clusters[i] + clusters[j]  # 将最近的两个簇更新为一个簇
  49.     new_clusters = [cluster for idx, cluster in enumerate(clusters) if
  50.                     idx not in (i, j)]
  51.     # 这里将没有合并的簇放进新的簇列表里面
  52.     new_clusters.append(merged_cluster)
  53.     return new_clusters
  56. def hierarchical_clustering(data, k):
  57.     # 初始化每个数据点为一个独立的簇
  58.     clusters = initialize_clusters(data)
  60.     # 开始迭代合并最相似的簇
  61.     while len(clusters) > k:
  62.         # 计算簇中心之间的距离，并找到最近的两个簇
  63.         distances = compute_distances(clusters)
  64.         closest_clusters = find_closest_clusters(distances)
  66.         # 合并最近的两个簇为一个新的簇，并更新簇中心点
  67.         clusters = merge_clusters(clusters, closest_clusters)
  69.     return clusters
  72. # 执行层次聚类算法
  73. k = 4
  74. clusters = hierarchical_clustering(data, k)
  76. # 打印聚类结果
  77. for idx, cluster in enumerate(clusters):
  78.     print(f"Cluster {idx + 1}: ", cluster)
  80. # 绘制聚类结果的图表
  81. plt.figure(figsize=(8, 6))
  82. colors = ["red", "green", "blue", "yellow"]
  84. for i in range(k):
  85.     for p in clusters[i]:
  86.         plt.scatter(x=p[0], y=p[1], color=colors[i])
  88. plt.xlabel("X")
  89. plt.ylabel("Y")
  90. plt.title("Hierarchical Clustering")
  91. plt.show()

  复制代码
  
  
• 自上而下的分解(Divisive)。
  

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。