KernelPCA#

class sklearn.decomposition.KernelPCA(n_components=None, *, kernel='linear', gamma=None, degree=3, coef0=1, kernel_params=None, alpha=1.0, fit_inverse_transform=False, eigen_solver='auto', tol=0, max_iter=None, iterated_power='auto', remove_zero_eig=False, random_state=None, copy_X=True, n_jobs=None)#

内核主成分分析（KPCA）。

通过使用内核进行非线性降维 [1]，另请参见成对度量、亲和力和核函数。

它使用 scipy.linalg.eigh LAPACK 实现的全 SVD 或 scipy.sparse.linalg.eigsh ARPACK 实现的截断 SVD，具体取决于输入数据的形状和要提取的成分数量。它还可以使用 [3] 中提出的随机截断 SVD 方法，参见 eigen_solver 。

有关使用示例以及主成分分析（PCA）及其内核化版本（KPCA）之间的比较，请参见核主成分分析。

有关使用 KPCA 去噪图像的示例，请参见使用核PCA进行图像去噪。

更多信息请参阅 User Guide 。

Parameters:

n_componentsint, default=None

成分数量。如果为 None，则保留所有非零成分。

kernel{‘linear’, ‘poly’, ‘rbf’, ‘sigmoid’, ‘cosine’, ‘precomputed’} 或 callable, default=’linear’

用于 PCA 的内核。

gammafloat, default=None

rbf、poly 和 sigmoid 内核的系数。其他内核忽略此参数。如果 gamma 为 None ，则设置为 1/n_features 。

degreefloat, default=3

poly 内核的度数。其他内核忽略此参数。

coef0float, default=1

poly 和 sigmoid 内核中的独立项。其他内核忽略此参数。

kernel_paramsdict, default=None

传递给可调用内核的参数（关键字参数）和值。其他内核忽略此参数。

alphafloat, default=1.0

学习逆变换的岭回归的超参数（当 fit_inverse_transform=True 时）。

fit_inverse_transformbool, default=False

学习非预计算内核的逆变换（即学习找到点的原像）。此方法基于 [2]。

eigen_solver{‘auto’, ‘dense’, ‘arpack’, ‘randomized’}, default=’auto’

选择使用的特征求解器。如果 n_components 远小于训练样本数量，随机化（或一定程度上 arpack）可能比稠密特征求解器更高效。随机 SVD 按照 Halko 等人的方法 [3] 进行。

auto :: 根据 n_samples（训练样本数量）和 n_components 选择求解器：如果提取的成分数量小于 10（严格）且样本数量大于 200（严格），则启用 ‘arpack’ 方法。否则计算完整的特征值分解并可选地截断（’dense’ 方法）。
dense :: 通过调用标准 LAPACK 求解器 scipy.linalg.eigh 运行完整的特征值分解，并通过后处理选择成分
arpack :: 运行截断到 n_components 的 SVD，通过调用 ARPACK 求解器 scipy.sparse.linalg.eigsh 。要求严格 0 < n_components < n_samples
randomized :: 按照 Halko 等人的方法运行随机 SVD [3]。当前实现根据模数选择特征值；因此，如果内核不是半正定的，使用此方法可能会导致意外结果。另请参见 [4]。

Changed in version 1.0: 'randomized' 已添加。

tolfloat, default=0

arpack 的收敛容差。如果为 0，arpack 将选择最优值。

max_iterint, default=None

arpack 的最大迭代次数。如果为 None，arpack 将选择最优值。

iterated_powerint >= 0, 或 ‘auto’, default=’auto’

由 svd_solver == ‘randomized’ 计算的幂方法的迭代次数。当 ‘auto’ 时，如果 n_components < 0.1 * min(X.shape) ，则设置为 7，否则设置为 4。

Added in version 1.0.

remove_zero_eigbool, default=False

如果为 True，则移除所有特征值为零的成分，因此输出中的成分数量可能 < n_components（有时甚至为零，由于数值不稳定性）。当 n_components 为 None 时，此参数被忽略，无论特征值是否为零，成分都会被移除。

random_stateint, RandomState 实例或 None, default=None

当 eigen_solver == ‘arpack’ 或 ‘randomized’ 时使用。传递一个 int 以在多次函数调用中获得可重复的结果。参见 Glossary 。

Added in version 0.18.

copy_Xbool, default=True

如果为 True，输入 X 被复制并由模型存储在 X_fit_ 属性中。如果不对 X 进行进一步更改，设置 copy_X=False 通过存储引用节省内存。

Added in version 0.18.

n_jobsint, default=None

并行运行的作业数量。 None 表示 1，除非在 joblib.parallel_backend 上下文中。 -1 表示使用所有处理器。参见 Glossary 了解更多详情。

Added in version 0.18.

Attributes:

eigenvalues_ndarray of shape (n_components,): 按降序排列的中心化内核矩阵的特征值。如果未设置 n_components 和 remove_zero_eig ，则存储所有值。
eigenvectors_ndarray of shape (n_samples, n_components): 中心化内核矩阵的特征向量。如果未设置 n_components 和 remove_zero_eig ，则存储所有成分。
dual_coef_ndarray of shape (n_samples, n_features): 逆变换矩阵。仅当 fit_inverse_transform 为 True 时可用。
X_transformed_fit_ndarray of shape (n_samples, n_components): 在主成分上拟合数据的投影。仅当 fit_inverse_transform 为 True 时可用。
X_fit_ndarray of shape (n_samples, n_features): 用于拟合模型的数据。如果 copy_X=False ，则 X_fit_ 是引用。此属性用于 transform 调用。
n_features_in_int: 在 fit 期间看到的特征数量。

Added in version 0.24.
feature_names_in_ndarray of shape ( n_features_in_ ,): 在 fit 期间看到的特征名称。仅当 X 中的特征名称均为字符串时定义。

Added in version 1.0.
gamma_float: rbf、poly 和 sigmoid 内核的系数。当 gamma 明确提供时，这与 gamma 相同。当 gamma 为 None 时，这是内核系数的实际值。

Added in version 1.3.

See also

FastICA: 用于独立成分分析的快速算法。
IncrementalPCA: 增量主成分分析。
NMF: 非负矩阵分解。
PCA: 主成分分析。
SparsePCA: 稀疏主成分分析。
TruncatedSVD: 使用截断 SVD 进行降维。

References

[1]

Schölkopf, Bernhard, Alexander Smola, and Klaus-Robert Müller. “Kernel principal component analysis.” International conference on artificial neural networks. Springer, Berlin, Heidelberg, 1997.

[2]

Bakır, Gökhan H., Jason Weston, and Bernhard Schölkopf. “Learning to find pre-images.” Advances in neural information processing systems 16 (2004): 449-456.

[3] (1,2,3)

Halko, Nathan, Per-Gunnar Martinsson, and Joel A. Tropp. “Finding structure with randomness: Probabilistic algorithms for constructing approximate matrix decompositions.” SIAM review 53.2 (2011): 217-288.

[4]

Martinsson, Per-Gunnar, Vladimir Rokhlin, and Mark Tygert. “A randomized algorithm for the decomposition of matrices.” Applied and Computational Harmonic Analysis 30.1 (2011): 47-68.

Examples

>>> from sklearn.datasets import load_digits
>>> from sklearn.decomposition import KernelPCA
>>> X, _ = load_digits(return_X_y=True)
>>> transformer = KernelPCA(n_components=7, kernel='linear')
>>> X_transformed = transformer.fit_transform(X)
>>> X_transformed.shape
(1797, 7)

fit(X, y=None)#

拟合从数据X中的模型。

Parameters:

X{array-like, sparse matrix}，形状为 (n_samples, n_features): 训练向量，其中 n_samples 是样本的数量， n_features 是特征的数量。
y忽略: 未使用，为了API一致性而存在。

Returns:

selfobject: 返回实例本身。

fit_transform(X, y=None, **params)#

拟合模型从X中的数据并转换X。

Parameters:

X{array-like, sparse matrix}，形状为 (n_samples, n_features): 训练向量，其中 n_samples 是样本的数量且 n_features 是特征的数量。
y忽略: 未使用，为保持API一致性而存在。
**paramskwargs: 传递给 fit_transform 实例的参数（关键字参数）和值。

Returns:

X_newndarray，形状为 (n_samples, n_components): 返回实例本身。

get_feature_names_out(input_features=None)#

获取转换后的输出特征名称。

输出特征名称将以小写的类名作为前缀。例如，如果转换器输出3个特征，那么输出特征名称将是： ["class_name0", "class_name1", "class_name2"] 。

Parameters:

input_features类似数组的对象或None，默认为None: 仅用于验证特征名称与 fit 中看到的名称。

Returns:

feature_names_outndarray of str对象: 转换后的特征名称。

get_metadata_routing()#

获取此对象的元数据路由。

请查看用户指南以了解路由机制的工作原理。

Returns:

routingMetadataRequest: MetadataRequest 封装的路由信息。

get_params(deep=True)#

获取此估计器的参数。

Parameters:

deepbool, 默认=True: 如果为True，将返回此估计器和包含的子对象（也是估计器）的参数。

Returns:

paramsdict: 参数名称映射到它们的值。

inverse_transform(X)#

将X转换回原始空间。

inverse_transform 使用学习到的预图像近似逆变换。预图像通过核岭回归学习，将原始数据在其低维表示向量上进行回归。

Note

当用户想要为 ‘linear’ 核计算逆变换时，建议他们使用 PCA 。与 PCA 不同，KernelPCA 的 inverse_transform 在使用 ‘linear’ 核时不会重建数据的均值，这是由于使用了中心化的核。

Parameters:

X{array-like, sparse matrix}，形状为 (n_samples, n_components): 训练向量，其中 n_samples 是样本数量， n_features 是特征数量。

Returns:

X_newndarray，形状为 (n_samples, n_features): 返回实例本身。

“Learning to find pre-images.” Advances in neural information processing systems 16 (2004): 449-456. <https://papers.nips.cc/paper/2003/file/ac1ad983e08ad3304a97e147f522747e-Paper.pdf>`_

set_output(*, transform=None)#

设置输出容器。

请参阅介绍 set_output API 以了解如何使用API的示例。

Parameters:

transform{“default”, “pandas”, “polars”}, 默认=None

配置 transform 和 fit_transform 的输出。

"default" : 转换器的默认输出格式
"pandas" : DataFrame 输出
"polars" : Polars 输出
None : 转换配置不变

Added in version 1.4: "polars" 选项已添加。

Returns:

self估计器实例: 估计器实例。

set_params(**params)#

设置此估计器的参数。

该方法适用于简单估计器以及嵌套对象（例如 Pipeline ）。后者具有形式为 <component>__<parameter> 的参数，以便可以更新嵌套对象的每个组件。

Parameters:

**paramsdict: 估计器参数。

Returns:

selfestimator instance: 估计器实例。

transform(X)#

Transform X.

Parameters:

X{array-like, sparse matrix} of shape (n_samples, n_features): 训练向量，其中 n_samples 是样本数量， n_features 是特征数量。

Returns:

X_newndarray of shape (n_samples, n_components): 返回实例本身。

Gallery examples#

核主成分分析

使用核PCA进行图像去噪

核主成分分析