LinearSVR#

class sklearn.svm.LinearSVR(*, epsilon=0.0, tol=0.0001, C=1.0, loss='epsilon_insensitive', fit_intercept=True, intercept_scaling=1.0, dual='auto', verbose=0, random_state=None, max_iter=1000)#

线性支持向量回归。

类似于带有参数 kernel=’linear’ 的 SVR,但通过 liblinear 而不是 libsvm 实现,因此在选择惩罚和损失函数方面具有更大的灵活性,并且应该更好地扩展到大量样本。

LinearSVRSVR 之间的主要区别在于默认使用的损失函数,以及在这两种实现之间处理截距正则化的方式。

此类支持密集和稀疏输入。

更多信息请参阅 用户指南

Added in version 0.16.

Parameters:
epsilonfloat, default=0.0

在 epsilon-insensitive 损失函数中的 epsilon 参数。注意,此参数的值取决于目标变量 y 的尺度。如果不确定,设置 epsilon=0

tolfloat, default=1e-4

停止准则的容差。

Cfloat, default=1.0

正则化参数。正则化的强度与 C 成反比。必须严格为正。

loss{‘epsilon_insensitive’, ‘squared_epsilon_insensitive’}, default=’epsilon_insensitive’

指定损失函数。epsilon-insensitive 损失(标准 SVR)是 L1 损失,而 squared epsilon-insensitive 损失(’squared_epsilon_insensitive’)是 L2 损失。

fit_interceptbool, default=True

是否拟合截距。如果设置为 True,特征向量将扩展以包含截距项: [x_1, ..., x_n, 1] ,其中 1 对应于截距。如果设置为 False,计算中将不使用截距(即数据应已中心化)。

intercept_scalingfloat, default=1.0

fit_intercept 为 True 时,实例向量 x 变为 [x_1, ..., x_n, intercept_scaling] ,即一个具有恒定值 intercept_scaling 的“合成”特征被附加到实例向量。截距变为 intercept_scaling * 合成特征权重。注意,liblinear 内部对截距进行惩罚,将其视为特征向量中的任何其他项。为了减少正则化对截距的影响,可以将 intercept_scaling 参数设置为大于 1 的值; intercept_scaling 的值越高,正则化对其的影响越小。然后,权重变为 [w_x_1, ..., w_x_n, w_intercept*intercept_scaling] ,其中 w_x_1, ..., w_x_n 表示特征权重,截距权重按 intercept_scaling 缩放。这种缩放允许截距项具有与其他特征不同的正则化行为。

dual“auto” or bool, default=”auto”

选择算法来解决对偶或原始优化问题。当 n_samples > n_features 时,首选 dual=False。 dual="auto" 将根据 n_samplesn_featuresloss 的值自动选择参数的值。如果 n_samples < n_features 且优化器支持所选的 loss ,则 dual 将设置为 True,否则将设置为 False。

Changed in version 1.3: 在版本 1.3 中添加了 "auto" 选项,并将在版本 1.5 中成为默认值。

verboseint, default=0

启用详细输出。注意,此设置利用了 liblinear 中的每个进程运行时设置,如果启用,在多线程上下文中可能无法正常工作。

random_stateint, RandomState instance or None, default=None

控制用于混洗数据的伪随机数生成。传递一个 int 以在多次函数调用中获得可重复的输出。请参阅 Glossary

max_iterint, default=1000

要运行的最大迭代次数。

Attributes:
coef_ndarray of shape (n_features) if n_classes == 2 else (n_classes, n_features)

分配给特征的权重(在原始问题中的系数)。

coef_ 是从 raw_coef_ 派生的只读属性,遵循 liblinear 的内部内存布局。

intercept_ndarray of shape (1) if n_classes == 2 else (n_classes)

决策函数中的常数。

n_features_in_int

fit 期间看到的特征数量。

Added in version 0.24.

feature_names_in_ndarray of shape ( n_features_in_ ,)

fit 期间看到的特征名称。仅当 X 具有全部为字符串的特征名称时定义。

Added in version 1.0.

n_iter_int

在所有类别中运行的最大迭代次数。

See also

LinearSVC

使用与此类相同的库(liblinear)实现的支持向量机分类器。

SVR

使用 libsvm 实现的支持向量机回归:内核可以是非线性的,但其 SMO 算法不像 LinearSVR 那样扩展到大量样本。

sklearn.linear_model.SGDRegressor

SGDRegressor 可以通过调整惩罚和损失参数来优化与 LinearSVR 相同的成本函数。此外,它需要的内存更少,允许增量(在线)学习,并实现各种损失函数和正则化机制。

Examples

>>> from sklearn.svm import LinearSVR
>>> from sklearn.pipeline import make_pipeline
>>> from sklearn.preprocessing import StandardScaler
>>> from sklearn.datasets import make_regression
>>> X, y = make_regression(n_features=4, random_state=0)
>>> regr = make_pipeline(StandardScaler(),
...                      LinearSVR(random_state=0, tol=1e-5))
>>> regr.fit(X, y)
Pipeline(steps=[('standardscaler', StandardScaler()),
                ('linearsvr', LinearSVR(random_state=0, tol=1e-05))])
>>> print(regr.named_steps['linearsvr'].coef_)
[18.582... 27.023... 44.357... 64.522...]
>>> print(regr.named_steps['linearsvr'].intercept_)
[-4...]
>>> print(regr.predict([[0, 0, 0, 0]]))
[-2.384...]
fit(X, y, sample_weight=None)#

拟合模型根据给定的训练数据。

Parameters:
X{array-like, sparse matrix},形状为 (n_samples, n_features)

训练向量,其中 n_samples 是样本的数量, n_features 是特征的数量。

y形状为 (n_samples,) 的 array-like

相对于 X 的目标向量。

sample_weight形状为 (n_samples,) 的 array-like,默认=None

分配给单个样本的权重数组。如果没有提供, 则每个样本被赋予单位权重。

Added in version 0.18.

Returns:
selfobject

估计器的一个实例。

get_metadata_routing()#

获取此对象的元数据路由。

请查看 用户指南 以了解路由机制的工作原理。

Returns:
routingMetadataRequest

MetadataRequest 封装的 路由信息。

get_params(deep=True)#

获取此估计器的参数。

Parameters:
deepbool, 默认=True

如果为True,将返回此估计器和包含的子对象(也是估计器)的参数。

Returns:
paramsdict

参数名称映射到它们的值。

predict(X)#

使用线性模型进行预测。

Parameters:
Xarray-like 或 sparse matrix, shape (n_samples, n_features)

样本。

Returns:
Carray, shape (n_samples,)

返回预测值。

score(X, y, sample_weight=None)#

返回预测的决定系数。

决定系数 \(R^2\) 定义为 \((1 - rac{u}{v})\) ,其中 \(u\) 是残差平方和 ((y_true - y_pred)** 2).sum() ,而 \(v\) 是总平方和 ((y_true - y_true.mean()) ** 2).sum() 。最好的可能得分是 1.0,它可能是负的(因为模型可能任意地差)。一个总是预测 y 的期望值的常数模型,忽略输入特征,将得到 \(R^2\) 得分为 0.0。

Parameters:
Xarray-like of shape (n_samples, n_features)

测试样本。对于某些估计器,这可能是一个预计算的核矩阵或一个形状为 (n_samples, n_samples_fitted) 的通用对象列表,其中 n_samples_fitted 是估计器拟合中使用的样本数量。

yarray-like of shape (n_samples,) or (n_samples, n_outputs)

X 的真实值。

sample_weightarray-like of shape (n_samples,), default=None

样本权重。

Returns:
scorefloat

\(R^2\) 相对于 yself.predict(X)

Notes

在调用回归器的 score 时使用的 \(R^2\) 得分从 0.23 版本开始使用 multioutput='uniform_average' 以保持与 r2_score 默认值一致。 这影响了所有多输出回归器的 score 方法(除了 MultiOutputRegressor )。

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LinearSVR#

Request metadata passed to the fit method.

Note that this method is only relevant if enable_metadata_routing=True (see sklearn.set_config ). Please see User Guide on how the routing mechanism works.

The options for each parameter are:

  • True : metadata is requested, and passed to fit if provided. The request is ignored if metadata is not provided.

  • False : metadata is not requested and the meta-estimator will not pass it to fit .

  • None : metadata is not requested, and the meta-estimator will raise an error if the user provides it.

  • str : metadata should be passed to the meta-estimator with this given alias instead of the original name.

The default ( sklearn.utils.metadata_routing.UNCHANGED ) retains the existing request. This allows you to change the request for some parameters and not others.

Added in version 1.3.

Note

This method is only relevant if this estimator is used as a sub-estimator of a meta-estimator, e.g. used inside a Pipeline . Otherwise it has no effect.

Parameters:
sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED

Metadata routing for sample_weight parameter in fit .

Returns:
selfobject

The updated object.

set_params(**params)#

设置此估计器的参数。

该方法适用于简单估计器以及嵌套对象(例如 Pipeline )。后者具有形式为 <component>__<parameter> 的参数,以便可以更新嵌套对象的每个组件。

Parameters:
**paramsdict

估计器参数。

Returns:
selfestimator instance

估计器实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LinearSVR#

Request metadata passed to the score method.

Note that this method is only relevant if enable_metadata_routing=True (see sklearn.set_config ). Please see User Guide on how the routing mechanism works.

The options for each parameter are:

  • True : metadata is requested, and passed to score if provided. The request is ignored if metadata is not provided.

  • False : metadata is not requested and the meta-estimator will not pass it to score .

  • None : metadata is not requested, and the meta-estimator will raise an error if the user provides it.

  • str : metadata should be passed to the meta-estimator with this given alias instead of the original name.

The default ( sklearn.utils.metadata_routing.UNCHANGED ) retains the existing request. This allows you to change the request for some parameters and not others.

Added in version 1.3.

Note

This method is only relevant if this estimator is used as a sub-estimator of a meta-estimator, e.g. used inside a Pipeline . Otherwise it has no effect.

Parameters:
sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED

Metadata routing for sample_weight parameter in score .

Returns:
selfobject

The updated object.