SmartCorrelatedSelection#

class feature_engine.selection.SmartCorrelatedSelection(variables=None, method='pearson', threshold=0.8, missing_values='ignore', selection_method='missing_values', estimator=None, scoring='roc_auc', cv=3, groups=None, confirm_variables=False)[源代码][源代码]#

SmartCorrelatedSelection() 找到相关特征的组，然后根据特定标准从每组中选择一个特征：

  • 缺失值最少的特征。

  • 具有最高基数（唯一值数量最多）的特征。

  • 具有最高方差的特征。

  • 根据估计器，具有最高重要性的特征。

SmartCorrelatedSelection() 返回一个数据框，其中包含每个相关特征组中选定的变量，以及所有未与其他任何特征相关的特征。

相关性是通过 pandas.corr() 计算的。

SmartCorrelatedSelection() 仅适用于数值变量。分类变量需要编码为数值，否则将从分析中排除。

更多详情请参阅 用户指南。

参数
变量: str 或 list, 默认=None

要评估的变量列表。如果为 None，转换器将评估数据集中所有数值特征。

方法: 字符串或可调用对象, 默认=’pearson’

可以取 ‘pearson’, ‘spearman’, ‘kendall’ 或 callable。它指的是用于识别相关特征的相关性方法。

  • ‘pearson’: 标准相关系数

  • ‘kendall’: Kendall Tau 相关系数

  • ‘spearman’: 斯皮尔曼等级相关

  • callable: 可调用对象，输入两个一维 ndarray 并返回一个浮点数。

有关此参数的更多详细信息，请访问 pandas.corr() 文档。

阈值: float, 默认=0.8

特征之间的相关性阈值，高于此阈值的特征将被视为与其他特征相关并从数据集中移除。

missing_values: str, default=ignore

在确定相关性时，是否应将缺失值作为错误引发或忽略。取值为 ‘raise’ 和 ‘ignore’。

selection_method: str, 默认= “missing_values”

取值为 “missing_values”、”cardinality”、”variance” 和 “model_performance”。

“missing_values”：保留相关组中缺失观测值最少的功能。

“基数”：保留相关组中具有最高基数的特征。

“方差”：保留相关组中具有最高方差的特征。

“模型性能”：使用相关组中的每个特征训练机器学习模型，并保留重要性最高的特征。

估计器: 对象

用于回归或分类的 Scikit-learn 估计器。

scoring: str, default=’roc_auc’

用于评估估计器性能的指标。来自 sklearn.metrics。更多选项请参见模型评估文档：https://scikit-learn.org/stable/modules/model_evaluation.html

cv: int, 交叉验证生成器或可迭代对象, 默认=3

确定交叉验证的分割策略。cv 的可能输入包括：

对于int/None输入，如果估计器是分类器且y是二分类或多分类，则使用StratifiedKFold。在所有其他情况下，使用KFold。这些分割器以`shuffle=False`实例化，因此分割将在多次调用中保持一致。更多详情请查看Scikit-learn的`cross_validate`文档。

groups: 形状为 (n_样本,) 的类数组, 默认=None

用于在将数据集划分为训练/测试集时使用的样本的组标签。仅在与“Group” cv 实例（例如，GroupKFold）结合使用时使用。

confirm_variables: bool, default=False

如果设置为 True，输入数据框中不存在的变量将从变量列表中移除。仅在向参数 variables 传递变量列表时使用。更多详情请参见参数 variables。

属性
correlated_feature_sets_

相关特征组。每个列表都是一个相关特征组。

correlated_feature_dict_: dict

包含相关特征组的字典。键是所有其他特征被评估的特征。值是与键相关的特征。键 + 值应与 correlated_feature_groups 中找到的集合相同。我们在版本 1.17.0 中引入了此属性，因为在集合中，不容易看出哪些特征将被保留，哪些将被移除。键将被保留，值将被丢弃。

features_to_drop_：

要从数据集中移除的相关特征。

变量_

将考虑用于特征选择过程的变量。

feature_names_in_:

列出在 fit 过程中看到的特征名称。

n_features_in_:

在拟合过程中使用的训练集中的特征数量。

参见

pandas.corr
feature_engine.selection.DropCorrelatedFeatures

注释

对于暴力相关性选择，请检查 Feature-engine 的 DropCorrelatedFeatures()。

示例

>>> import pandas as pd
>>> from feature_engine.selection import SmartCorrelatedSelection
>>> X = pd.DataFrame(dict(x1 = [1,2,1,1],
>>>                 x2 = [2,4,3,1],
>>>                 x3 = [1, 0, 0, 0]))
>>> scs = SmartCorrelatedSelection(threshold=0.7)
>>> scs.fit_transform(X)
   x2  x3
0   2   1
1   4   0
2   3   0
3   1   0

也可以使用其他选择方法。在这里，我们选择那些具有较高方差的功能：

>>> X = pd.DataFrame(dict(x1 = [2,4,3,1],
>>>                 x2 = [1000,2000,1500,500],
>>>                 x3 = [1, 0, 0, 0]))
>>> scs = SmartCorrelatedSelection(threshold=0.7, selection_method="variance")
>>> scs.fit_transform(X)
     x2  x3
0  1000   1
1  2000   0
2  1500   0
3   500   0

方法

拟合：

从每个相关组中找到最佳特征。

fit_transform:

拟合数据，然后进行转换。

get_feature_names_out:

获取转换后的输出特征名称。

get_params:

获取此估计器的参数。

设置参数:

设置此估计器的参数。

获取支持：

获取所选特征的掩码或整数索引。

变换:

返回选定的特征。
fit(X, y=None)[源代码][源代码]#

找到相关的特征组。确定应从每个组中选择哪个特征。

参数
X: pandas 数据框，形状为 = [样本数, 特征数]

训练数据集。

y: pandas 系列. 默认 = None

如果 selection_method == ‘model_performance’，则需要 y。

fit_transform(X, y=None, **fit_params)[源代码]#

拟合数据，然后进行转换。

使用可选参数 fit_params 将转换器拟合到 X 和 y，并返回 X 的转换版本。

参数
X类似数组的形状 (n_samples, n_features)

输入样本。

y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组，默认=None

目标值（无监督变换为None）。

**fit_参数dict

附加的拟合参数。

返回
X_newndarray 数组，形状为 (n_samples, n_features_new)

转换后的数组。

get_feature_names_out(input_features=None)[源代码]#

获取转换后的输出特征名称。换句话说，返回转换后的数据框的变量名称。

参数
输入特征数组或列表，默认=None

此参数仅为了与 Scikit-learn 管道兼容而存在。

  • 如果 None ，则使用 feature_names_in_ 作为特征名称。

  • 如果是一个数组或列表，那么 input_features 必须与 feature_names_in_ 匹配。

返回
feature_names_out: 列表

转换后的特征名称。

rtype

List[Union[str, int]] ..

get_metadata_routing()[源代码]#

获取此对象的元数据路由。

请查看 用户指南 以了解路由机制的工作原理。

返回
路由MetadataRequest

一个封装了路由信息的 MetadataRequest。

get_params(deep=True)[源代码]#

获取此估计器的参数。

参数
深度bool, 默认=True

如果为 True，将返回此估计器及其包含的作为估计器的子对象的参数。

返回
参数dict

参数名称映射到它们的值。

get_support(indices=False)[源代码]#

获取所选特征的掩码或整数索引。

参数
索引bool, 默认=False

如果为真，返回值将是一个整数数组，而不是布尔掩码。

返回
支持数组

一个从特征向量中选择保留特征的索引。如果 indices 为 False，这是一个形状为 [# 输入特征] 的布尔数组，其中元素为 True 表示其对应的特征被选择保留。如果 indices 为 True，这是一个形状为 [# 输出特征] 的整数数组，其值为输入特征向量中的索引。

set_params(**params)[源代码]#

设置此估计器的参数。

该方法适用于简单的估计器以及嵌套对象（如 Pipeline）。后者的参数形式为 <component>__<parameter>，因此可以更新嵌套对象的每个组件。

参数
**参数dict

估计器参数。

返回
self估计器实例

估计器实例。

transform(X)[源代码]#

返回包含所选特征的数据框。

参数
X: pandas 数据框，形状为 [n_samples, n_features]。

输入的数据框。

返回
X_new: 形状为 [n_samples, n_selected_features] 的 pandas dataframe

包含所选特征的 Pandas 数据框。

rtype

DataFrame ..

On this page
显示源代码