SelectByShuffling#

class feature_engine.selection.SelectByShuffling(estimator, scoring='roc_auc', cv=3, threshold=None, variables=None, random_state=None, confirm_variables=False)[源代码][源代码]#

SelectByShuffling() 通过确定每个特征的值被随机打乱时机器学习模型性能的下降来选择特征。

如果变量很重要，对其值进行随机排列将显著降低机器学习模型的性能。相反，如果特征不具有预测性，那么对其值进行排列应该对我们在评估的模型性能指标几乎没有影响。

SelectByShuffling() 首先使用所有特征训练一个机器学习模型。接下来，它随机打乱一个特征的值，使用预训练的模型获取预测，并确定性能下降（如果有的话）。如果性能下降大于某个阈值，则保留该特征，否则移除。它继续进行，直到所有特征都被打乱并检查完毕。

用户可以确定应评估特征打乱后性能下降的模型。用户还可以确定性能低于某个阈值时将移除的特征，以及用于评估的性能指标。

模型训练和性能计算通过交叉验证完成。

更多详情请参阅用户指南。

参数

估计器: 对象

一个用于回归或分类的 Scikit-learn 估计器。

变量: str 或 list, 默认=None

要评估的变量列表。如果为 None，转换器将评估数据集中所有数值特征。

scoring: str, default=’roc_auc’

用于评估估计器性能的指标。来自 sklearn.metrics。更多选项请参见模型评估文档：https://scikit-learn.org/stable/modules/model_evaluation.html

threshold: float, int, default = 0.01

定义是否选择某个特征的值。请注意，对于像 roc-auc、r2 和准确率这样的指标，阈值将是一个介于 0 和 1 之间的浮点数。对于像均方误差和均方根误差这样的指标，阈值可以是任何数值。阈值必须由用户定义。阈值越大，选择的特征就越少。

cv: int, 交叉验证生成器或可迭代对象, 默认=3

确定交叉验证的分割策略。cv 的可能输入包括：

None，使用 cross_validate 的默认 5 折交叉验证

int，用于指定 (Stratified)KFold 中的折数。

CV 分割器: (https://scikit-learn.org/stable/glossary.html#term-CV-splitter)

一个生成 (训练, 测试) 分割的迭代器，作为索引数组。

对于int/None输入，如果估计器是分类器且y是二分类或多分类，则使用StratifiedKFold。在所有其他情况下，使用KFold。这些分割器以`shuffle=False`实例化，因此分割将在多次调用中保持一致。有关更多详细信息，请查看Scikit-learn的`cross_validate`文档。

random_state: int, 默认为None

控制特征洗牌时的随机性。

confirm_variables: bool, default=False

如果设置为 True，输入数据框中不存在的变量将从变量列表中移除。仅在向参数 variables 传递变量列表时使用。更多详情请参见参数 variables。

属性

initial_model_performance_:: 使用原始数据集训练时的模型性能。
性能漂移_: 包含每个随机特征的性能漂移的字典。
performance_drifts_std_:: 包含每个随机特征性能漂移标准差的字典。
features_to_drop_：: 列出将被移除的功能。
变量_: 将考虑用于特征选择过程的变量。
feature_names_in_:: 列出在 fit 过程中看到的特征名称。
n_features_in_:: 在拟合过程中使用的训练集中的特征数量。

参见

sklearn.inspection.permutation_importance

注释

这个转换器与 Scikit-learn 中的 permutation_importance 概念相似。Scikit-learn 中的函数用于评估特征重要性，而不是用于选择特征。

示例

>>> import pandas as pd
>>> from sklearn.ensemble import RandomForestClassifier
>>> from feature_engine.selection import SelectByShuffling
>>> X = pd.DataFrame(dict(x1 = [1000,2000,1000,1000,2000,3000],
>>>                     x2 = [2,4,3,1,2,2],
>>>                     x3 = [1,1,1,0,0,0],
>>>                     x4 = [1,2,1,1,0,1],
>>>                     x5 = [1,1,1,1,1,1]))
>>> y = pd.Series([1,0,0,1,1,0])
>>> sbs = SelectByShuffling(
>>>         RandomForestClassifier(random_state=42),
>>>         cv=2,
>>>         random_state=42,
>>>       )
>>> sbs.fit_transform(X, y)
   x2  x4  x5
0   2   1   1
1   4   2   1
2   3   1   1
3   1   1   1
4   2   0   1
5   2   1   1

方法

拟合：	找到重要的功能。
fit_transform:	拟合数据，然后进行转换。
get_feature_names_out:	获取转换的输出特征名称。
get_params:	获取此估计器的参数。
设置参数:	设置此估计器的参数。
获取支持：	获取所选特征的掩码或整数索引。
转换：	将 X 减少到选定的特征。

fit(X, y, sample_weight=None)[源代码][源代码]#

找到重要的功能。

参数

X: pandas 数据框，形状为 = [样本数, 特征数]: 输入的数据框。
y: 形状为 (n_samples) 的类数组对象: 目标变量。训练估计器时必需。
sample_weight类数组的形状 (n_samples,)，默认=None: 样本权重。如果为 None，则样本权重相等。

fit_transform(X, y=None, **fit_params)[源代码]#

拟合数据，然后进行转换。

使用可选参数 fit_params 将转换器拟合到 X 和 y，并返回 X 的转换版本。

参数

X类似数组的形状 (n_samples, n_features): 输入样本。
y类数组的形状 (n_samples,) 或 (n_samples, n_outputs)，默认=None: 目标值（无监督变换为None）。
**拟合参数dict: 附加的拟合参数。

返回

X_newndarray 数组，形状为 (n_samples, n_features_new): 转换后的数组。

get_feature_names_out(input_features=None)[源代码]#

获取转换后的特征名称。换句话说，返回转换后的数据框的变量名称。

参数

input_features数组或列表，默认=None

此参数仅为了与 Scikit-learn 管道兼容而存在。

如果 None，则使用 feature_names_in_ 作为特征名称。
如果是一个数组或列表，那么 input_features 必须与 feature_names_in_ 匹配。

返回

feature_names_out: 列表: 转换后的特征名称。

rtype: List[Union[str, int]] ..

get_metadata_routing()[源代码]#

获取此对象的元数据路由。

请查看用户指南以了解路由机制的工作原理。

返回

路由MetadataRequest: 一个封装了路由信息的 MetadataRequest。

get_params(deep=True)[源代码]#

获取此估计器的参数。

参数

深度bool, 默认=True: 如果为真，将返回此估计器及其包含的作为估计器的子对象的参数。

返回

参数dict: 参数名称映射到它们的值。

get_support(indices=False)[源代码]#

获取所选特征的掩码或整数索引。

参数

索引bool, 默认=False: 如果为真，返回值将是一个整数数组，而不是一个布尔掩码。

返回

支持数组: 一个从特征向量中选择保留特征的索引。如果 indices 为 False，这是一个形状为 [# 输入特征] 的布尔数组，其中元素为 True 表示其对应的特征被选择保留。如果 indices 为 True，这是一个形状为 [# 输出特征] 的整数数组，其值为输入特征向量中的索引。

set_fit_request(*, sample_weight: Union[bool, None, str] = '$UNCHANGED$') → SelectByShuffling[源代码]#

传递给 fit 方法的请求元数据。

请注意，此方法仅在 enable_metadata_routing=True 时相关（参见 sklearn.set_config()）。请参阅用户指南了解路由机制的工作原理。

每个参数的选项是：

True: 请求元数据，并在提供时传递给 fit。如果未提供元数据，则忽略该请求。
False: 不请求元数据，元估计器不会将其传递给 fit。
None: 不需要元数据，如果用户提供了元数据，元估计器将引发错误。
str: 元数据应使用此给定别名传递给元估计器，而不是原始名称。

默认值 (sklearn.utils.metadata_routing.UNCHANGED) 保留现有的请求。这允许你为某些参数更改请求，而不更改其他参数。

在 1.3 版本加入.

备注

此方法仅在将此估计器用作元估计器的子估计器时相关，例如在 Pipeline 内部使用。否则它没有效果。

参数

sample_weightstr, True, False, 或 None, 默认=sklearn.utils.metadata_routing.UNCHANGED: fit 方法中 sample_weight 参数的元数据路由。

返回

self对象: 更新后的对象。

set_params(**params)[源代码]#

设置此估计器的参数。

该方法适用于简单的估计器以及嵌套对象（如 Pipeline）。后者的参数形式为 <component>__<parameter>，因此可以更新嵌套对象的每个组件。

参数

**参数dict: 估计器参数。

返回

self估计器实例: 估计器实例。

transform(X)[源代码]#

返回包含所选特征的数据框。

参数

X: pandas 数据框，形状为 [n_samples, n_features]。: 输入的数据框。

返回

X_new: 形状为 [n_samples, n_selected_features] 的 pandas dataframe: 包含所选特征的 Pandas 数据框。

rtype: DataFrame ..

This site uses cookies

SelectByShuffling#