Note

Go to the end to download the full example code. or to run this example in your browser via Binder

层次聚类：结构化 vs 非结构化 Ward#

本示例构建了一个瑞士卷数据集，并对其位置进行层次聚类。

更多信息，请参见层次聚类。

在第一步中，层次聚类在没有结构连通性约束的情况下进行，仅基于距离；而在第二步中，聚类被限制在k-近邻图上：这是一个具有结构先验的层次聚类。

在没有连通性约束的情况下学习到的一些聚类不遵循瑞士卷的结构，并且跨越了流形的不同折叠。相反，当施加连通性约束时，聚类形成了瑞士卷的良好分区。

# 作者：scikit-learn 开发者
# SPDX-License-Identifier: BSD-3-Clause

import time as time

# 以下导入是必需的
# 以便在 matplotlib < 3.2 中实现 3D 投影
import mpl_toolkits.mplot3d  # noqa: F401
import numpy as np

生成数据#

我们首先生成瑞士卷数据集。

from sklearn.datasets import make_swiss_roll

n_samples = 1500
noise = 0.05
X, _ = make_swiss_roll(n_samples, noise=noise)
# 把它弄薄一点
#
#
X[:, 1] *= 0.5

计算聚类#

我们执行层次聚类中的凝聚聚类，不受任何连通性约束。

from sklearn.cluster import AgglomerativeClustering

print("Compute unstructured hierarchical clustering...")
st = time.time()
ward = AgglomerativeClustering(n_clusters=6, linkage="ward").fit(X)
elapsed_time = time.time() - st
label = ward.labels_
print(f"Elapsed time: {elapsed_time:.2f}s")
print(f"Number of points: {label.size}")

Compute unstructured hierarchical clustering...
Elapsed time: 0.02s
Number of points: 1500

绘制结果#

绘制非结构化的层次聚类。

import matplotlib.pyplot as plt

fig1 = plt.figure()
ax1 = fig1.add_subplot(111, projection="3d", elev=7, azim=-80)
ax1.set_position([0, 0, 0.95, 1])
for l in np.unique(label):
    ax1.scatter(
        X[label == l, 0],
        X[label == l, 1],
        X[label == l, 2],
        color=plt.cm.jet(float(l) / np.max(label + 1)),
        s=20,
        edgecolor="k",
    )
_ = fig1.suptitle(f"Without connectivity constraints (time {elapsed_time:.2f}s)")

Without connectivity constraints (time 0.02s)

我们正在定义具有10个邻居的k-近邻算法#

from sklearn.neighbors import kneighbors_graph

connectivity = kneighbors_graph(X, n_neighbors=10, include_self=False)

计算聚类#

我们再次在连通性约束下执行凝聚聚类。

print("Compute structured hierarchical clustering...")
st = time.time()
ward = AgglomerativeClustering(
    n_clusters=6, connectivity=connectivity, linkage="ward"
).fit(X)
elapsed_time = time.time() - st
label = ward.labels_
print(f"Elapsed time: {elapsed_time:.2f}s")
print(f"Number of points: {label.size}")

Compute structured hierarchical clustering...
Elapsed time: 0.04s
Number of points: 1500

Plot result#

绘制结构化的层次聚类。

fig2 = plt.figure()
ax2 = fig2.add_subplot(121, projection="3d", elev=7, azim=-80)
ax2.set_position([0, 0, 0.95, 1])
for l in np.unique(label):
    ax2.scatter(
        X[label == l, 0],
        X[label == l, 1],
        X[label == l, 2],
        color=plt.cm.jet(float(l) / np.max(label + 1)),
        s=20,
        edgecolor="k",
    )
fig2.suptitle(f"With connectivity constraints (time {elapsed_time:.2f}s)")

plt.show()