ElasticNetCV#
- class sklearn.linear_model.ElasticNetCV(*, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, fit_intercept=True, precompute='auto', max_iter=1000, tol=0.0001, cv=None, copy_X=True, verbose=0, n_jobs=None, positive=False, random_state=None, selection='cyclic')#
弹性网络模型沿正则化路径进行迭代拟合。
请参阅 cross-validation estimator 的词汇条目。
更多信息请参阅 User Guide 。
- Parameters:
- l1_ratiofloat or list of float, default=0.5
传递给 ElasticNet 的介于 0 和 1 之间的浮点数(在 l1 和 l2 惩罚之间缩放)。对于
l1_ratio = 0
, 惩罚是 L2 惩罚。对于l1_ratio = 1
,它是 L1 惩罚。对于0 < l1_ratio < 1
, 惩罚是 L1 和 L2 的组合。此参数可以是列表,在这种情况下,通过交叉验证测试不同的值, 并使用预测得分最佳的值。请注意,l1_ratio 的合适值列表通常是接近 1(即 Lasso)的值更多, 接近 0(即 Ridge)的值更少,如[.1, .5, .7, .9, .95, .99, 1]
。- epsfloat, default=1e-3
路径的长度。
eps=1e-3
表示alpha_min / alpha_max = 1e-3
。- n_alphasint, default=100
沿正则化路径的 alpha 数量,用于每个 l1_ratio。
- alphasarray-like, default=None
计算模型的 alpha 列表。如果为 None,则自动设置 alpha。
- fit_interceptbool, default=True
是否计算此模型的截距。如果设置为 false,则不使用截距进行计算 (即数据应已中心化)。
- precompute‘auto’, bool or array-like of shape (n_features, n_features), default=’auto’
是否使用预计算的 Gram 矩阵以加快计算速度。如果设置为
'auto'
,则由我们决定。 Gram 矩阵也可以作为参数传递。- max_iterint, default=1000
最大迭代次数。
- tolfloat, default=1e-4
优化的容差:如果更新小于
tol
,则优化代码检查最优性对偶间隙,并继续直到其小于tol
。- cvint, cross-validation generator or iterable, default=None
确定交叉验证分割策略。cv 的可能输入包括:
None,使用默认的 5 折交叉验证,
int,指定折数。
一个可迭代对象,生成 (train, test) 分割作为索引数组。
对于 int/None 输入,使用
KFold
。请参阅 User Guide 以了解可以使用的各种交叉验证策略。
Changed in version 0.22:
cv
的默认值如果为 None,则从 3 折更改为 5 折。- copy_Xbool, default=True
如果为
True
,则 X 将被复制;否则,可能会被覆盖。- verbosebool or int, default=0
详细程度。
- n_jobsint, default=None
交叉验证期间使用的 CPU 数量。
None
表示 1,除非在joblib.parallel_backend
上下文中。-1
表示使用所有处理器。请参阅 Glossary 以获取更多详细信息。- positivebool, default=False
当设置为
True
时,强制系数为正。- random_stateint, RandomState instance, default=None
选择随机特征更新的伪随机数生成器的种子。当
selection
== ‘random’ 时使用。 传递一个 int 以在多次函数调用中获得可重复的输出。请参阅 Glossary 。- selection{‘cyclic’, ‘random’}, default=’cyclic’
如果设置为 ‘random’,则每次迭代更新一个随机系数,而不是默认情况下按顺序循环遍历特征。 这(设置为 ‘random’)通常会导致显著更快的收敛,特别是当 tol 高于 1e-4 时。
- Attributes:
- alpha_float
通过交叉验证选择的惩罚量。
- l1_ratio_float
通过交叉验证选择的 l1 和 l2 惩罚之间的折衷。
- coef_ndarray of shape (n_features,) or (n_targets, n_features)
参数向量(w 在成本函数公式中)。
- intercept_float or ndarray of shape (n_targets, n_features)
决策函数中的独立项。
- mse_path_ndarray of shape (n_l1_ratio, n_alpha, n_folds)
每个折的测试集的均方误差,随 l1_ratio 和 alpha 变化。
- alphas_ndarray of shape (n_alphas,) or (n_l1_ratio, n_alphas)
用于拟合的 alpha 网格,每个 l1_ratio。
- dual_gap_float
优化结束时最优 alpha 的对偶间隙。
- n_iter_int
坐标下降求解器为达到指定容差而运行的迭代次数。
- n_features_in_int
在 fit 期间看到的特征数量。
Added in version 0.24.
- feature_names_in_ndarray of shape (
n_features_in_
,) 在 fit 期间看到的特征名称。仅当
X
的特征名称均为字符串时定义。Added in version 1.0.
See also
enet_path
使用坐标下降计算弹性网络路径。
ElasticNet
具有组合 L1 和 L2 先验作为正则化项的线性回归。
Notes
在
fit
中,一旦通过交叉验证找到最佳参数l1_ratio
和alpha
,模型将使用整个训练集重新拟合。为了避免不必要的内存复制,
fit
方法的X
参数应直接作为 Fortran 连续的 numpy 数组传递。参数
l1_ratio
对应于 glmnet R 包中的 alpha,而 alpha 对应于 glmnet 中的 lambda 参数。 更具体地说,优化目标为:1 / (2 * n_samples) * ||y - Xw||^2_2 + alpha * l1_ratio * ||w||_1 + 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2
如果您有兴趣分别控制 L1 和 L2 惩罚,请记住这相当于:
a * L1 + b * L2
对于:
alpha = a + b 和 l1_ratio = a / (a + b)。
有关示例,请参阅 examples/linear_model/plot_lasso_model_selection.py 。
Examples
>>> from sklearn.linear_model import ElasticNetCV >>> from sklearn.datasets import make_regression
>>> X, y = make_regression(n_features=2, random_state=0) >>> regr = ElasticNetCV(cv=5, random_state=0) >>> regr.fit(X, y) ElasticNetCV(cv=5, random_state=0) >>> print(regr.alpha_) 0.199... >>> print(regr.intercept_) 0.398... >>> print(regr.predict([[0, 0]])) [0.398...]
- fit(X, y, sample_weight=None, **params)#
拟合使用坐标下降法的线性模型。
拟合在alpha的网格上进行,并通过交叉验证估计最佳alpha。
- Parameters:
- X{array-like, sparse matrix} of shape (n_samples, n_features)
训练数据。直接传递为Fortran连续数据以避免不必要的内存复制。如果y是单输出的,X可以是稀疏的。请注意,不接受需要
int64
索引的大型稀疏矩阵和数组。- yarray-like of shape (n_samples,) or (n_samples, n_targets)
目标值。
- sample_weightfloat or array-like of shape (n_samples,), default=None
用于拟合和评估每个cv-fold的加权均方误差的样本权重。请注意,最终用于找到最佳模型的交叉验证MSE是每个测试折叠的(加权)MSE的未加权平均值。
- **paramsdict, default=None
传递给CV分割器的参数。
Added in version 1.4: 仅在
enable_metadata_routing=True
时可用, 可以通过使用sklearn.set_config(enable_metadata_routing=True)
设置。 有关更多详细信息,请参阅:ref:Metadata Routing User Guide <metadata_routing>
。
- Returns:
- selfobject
返回一个拟合模型的实例。
- get_metadata_routing()#
获取此对象的元数据路由。
请查看 用户指南 以了解路由机制的工作原理。
Added in version 1.4.
- Returns:
- routingMetadataRouter
一个封装了路由信息的
MetadataRouter
。
- get_params(deep=True)#
获取此估计器的参数。
- Parameters:
- deepbool, 默认=True
如果为True,将返回此估计器和包含的子对象(也是估计器)的参数。
- Returns:
- paramsdict
参数名称映射到它们的值。
- static path(X, y, *, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, check_input=True, **params)#
计算弹性网络路径使用坐标下降法。
弹性网络优化函数对于单输出和多输出任务有所不同。
对于单输出任务,它是:
1 / (2 * n_samples) * ||y - Xw||^2_2 + alpha * l1_ratio * ||w||_1 + 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2
对于多输出任务,它是:
(1 / (2 * n_samples)) * ||Y - XW||_Fro^2 + alpha * l1_ratio * ||W||_21 + 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2
其中:
||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}
即每行的范数之和。
更多信息请参阅 用户指南 。
- Parameters:
- X{array-like, sparse matrix},形状为 (n_samples, n_features)
训练数据。直接传递为 Fortran 连续数据以避免不必要的内存复制。如果
y
是单输出,则X
可以是稀疏的。- y{array-like, sparse matrix},形状为 (n_samples,) 或 (n_samples, n_targets)
目标值。
- l1_ratiofloat, 默认=0.5
介于 0 和 1 之间的数字,传递给弹性网络(在 l1 和 l2 惩罚之间缩放)。
l1_ratio=1
对应于 Lasso。- epsfloat, 默认=1e-3
路径的长度。
eps=1e-3
意味着alpha_min / alpha_max = 1e-3
。- n_alphasint, 默认=100
沿正则化路径的 alpha 数量。
- alphasarray-like, 默认=None
计算模型的 alpha 列表。如果为 None,则自动设置 alpha。
- precompute‘auto’, bool 或形状为 (n_features, n_features) 的 array-like, 默认=’auto’
是否使用预计算的 Gram 矩阵以加速计算。如果设置为
'auto'
,则由我们决定。Gram 矩阵也可以作为参数传递。- Xy形状为 (n_features,) 或 (n_features, n_targets) 的 array-like, 默认=None
Xy = np.dot(X.T, y) 可以预计算。只有在预计算 Gram 矩阵时才有用。
- copy_Xbool, 默认=True
如果为
True
,则 X 将被复制;否则,可能会被覆盖。- coef_init形状为 (n_features,) 的 array-like, 默认=None
系数的初始值。
- verbosebool 或 int, 默认=False
冗长程度。
- return_n_iterbool, 默认=False
是否返回迭代次数。
- positivebool, 默认=False
如果设置为 True,则强制系数为正。(仅在
y.ndim == 1
时允许)。- check_inputbool, 默认=True
如果设置为 False,则跳过输入验证检查(包括提供的 Gram 矩阵)。假设它们由调用者处理。
- **paramskwargs
传递给坐标下降求解器的关键字参数。
- Returns:
- alphas形状为 (n_alphas,) 的 ndarray
计算模型的 alpha 路径。
- coefs形状为 (n_features, n_alphas) 或 (n_targets, n_features, n_alphas) 的 ndarray
沿路径的系数。
- dual_gaps形状为 (n_alphas,) 的 ndarray
每个 alpha 优化结束时的对偶间隙。
- n_iterslist of int
坐标下降优化器为达到指定容差所需的迭代次数。 (当
return_n_iter
设置为 True 时返回)。
See also
MultiTaskElasticNet
使用 L1/L2 混合范数作为正则化训练的多任务弹性网络模型。
MultiTaskElasticNetCV
内置交叉验证的多任务 L1/L2 弹性网络。
ElasticNet
结合 L1 和 L2 先验作为正则化的线性回归。
ElasticNetCV
沿正则化路径迭代拟合的弹性网络模型。
Notes
有关示例,请参见 examples/linear_model/plot_lasso_coordinate_descent_path.py 。
Examples
>>> from sklearn.linear_model import enet_path >>> from sklearn.datasets import make_regression >>> X, y, true_coef = make_regression( ... n_samples=100, n_features=5, n_informative=2, coef=True, random_state=0 ... ) >>> true_coef array([ 0. , 0. , 0. , 97.9..., 45.7...]) >>> alphas, estimated_coef, _ = enet_path(X, y, n_alphas=3) >>> alphas.shape (3,) >>> estimated_coef array([[ 0. , 0.78..., 0.56...], [ 0. , 1.12..., 0.61...], [-0. , -2.12..., -1.12...], [ 0. , 23.04..., 88.93...], [ 0. , 10.63..., 41.56...]])
- predict(X)#
使用线性模型进行预测。
- Parameters:
- Xarray-like 或 sparse matrix, shape (n_samples, n_features)
样本。
- Returns:
- Carray, shape (n_samples,)
返回预测值。
- score(X, y, sample_weight=None)#
返回预测的决定系数。
决定系数 \(R^2\) 定义为 \((1 - rac{u}{v})\) ,其中 \(u\) 是残差平方和
((y_true - y_pred)** 2).sum()
,而 \(v\) 是总平方和((y_true - y_true.mean()) ** 2).sum()
。最好的可能得分是 1.0,它可能是负的(因为模型可能任意地差)。一个总是预测y
的期望值的常数模型,忽略输入特征,将得到 \(R^2\) 得分为 0.0。- Parameters:
- Xarray-like of shape (n_samples, n_features)
测试样本。对于某些估计器,这可能是一个预计算的核矩阵或一个形状为
(n_samples, n_samples_fitted)
的通用对象列表,其中n_samples_fitted
是估计器拟合中使用的样本数量。- yarray-like of shape (n_samples,) or (n_samples, n_outputs)
X
的真实值。- sample_weightarray-like of shape (n_samples,), default=None
样本权重。
- Returns:
- scorefloat
\(R^2\) 相对于
y
的self.predict(X)
。
Notes
在调用回归器的
score
时使用的 \(R^2\) 得分从 0.23 版本开始使用multioutput='uniform_average'
以保持与r2_score
默认值一致。 这影响了所有多输出回归器的score
方法(除了MultiOutputRegressor
)。
- set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') ElasticNetCV #
Request metadata passed to the
fit
method.Note that this method is only relevant if
enable_metadata_routing=True
(seesklearn.set_config
). Please see User Guide on how the routing mechanism works.The options for each parameter are:
True
: metadata is requested, and passed tofit
if provided. The request is ignored if metadata is not provided.False
: metadata is not requested and the meta-estimator will not pass it tofit
.None
: metadata is not requested, and the meta-estimator will raise an error if the user provides it.str
: metadata should be passed to the meta-estimator with this given alias instead of the original name.
The default (
sklearn.utils.metadata_routing.UNCHANGED
) retains the existing request. This allows you to change the request for some parameters and not others.Added in version 1.3.
Note
This method is only relevant if this estimator is used as a sub-estimator of a meta-estimator, e.g. used inside a
Pipeline
. Otherwise it has no effect.- Parameters:
- sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED
Metadata routing for
sample_weight
parameter infit
.
- Returns:
- selfobject
The updated object.
- set_params(**params)#
设置此估计器的参数。
该方法适用于简单估计器以及嵌套对象(例如
Pipeline
)。后者具有形式为<component>__<parameter>
的参数,以便可以更新嵌套对象的每个组件。- Parameters:
- **paramsdict
估计器参数。
- Returns:
- selfestimator instance
估计器实例。
- set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') ElasticNetCV #
Request metadata passed to the
score
method.Note that this method is only relevant if
enable_metadata_routing=True
(seesklearn.set_config
). Please see User Guide on how the routing mechanism works.The options for each parameter are:
True
: metadata is requested, and passed toscore
if provided. The request is ignored if metadata is not provided.False
: metadata is not requested and the meta-estimator will not pass it toscore
.None
: metadata is not requested, and the meta-estimator will raise an error if the user provides it.str
: metadata should be passed to the meta-estimator with this given alias instead of the original name.
The default (
sklearn.utils.metadata_routing.UNCHANGED
) retains the existing request. This allows you to change the request for some parameters and not others.Added in version 1.3.
Note
This method is only relevant if this estimator is used as a sub-estimator of a meta-estimator, e.g. used inside a
Pipeline
. Otherwise it has no effect.- Parameters:
- sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED
Metadata routing for
sample_weight
parameter inscore
.
- Returns:
- selfobject
The updated object.