LinearSVR#
- class sklearn.svm.LinearSVR(*, epsilon=0.0, tol=0.0001, C=1.0, loss='epsilon_insensitive', fit_intercept=True, intercept_scaling=1.0, dual='auto', verbose=0, random_state=None, max_iter=1000)#
线性支持向量回归。
类似于带有参数 kernel=’linear’ 的 SVR,但通过 liblinear 而不是 libsvm 实现,因此在选择惩罚和损失函数方面具有更大的灵活性,并且应该更好地扩展到大量样本。
LinearSVR
和SVR
之间的主要区别在于默认使用的损失函数,以及在这两种实现之间处理截距正则化的方式。此类支持密集和稀疏输入。
更多信息请参阅 用户指南 。
Added in version 0.16.
- Parameters:
- epsilonfloat, default=0.0
在 epsilon-insensitive 损失函数中的 epsilon 参数。注意,此参数的值取决于目标变量 y 的尺度。如果不确定,设置
epsilon=0
。- tolfloat, default=1e-4
停止准则的容差。
- Cfloat, default=1.0
正则化参数。正则化的强度与 C 成反比。必须严格为正。
- loss{‘epsilon_insensitive’, ‘squared_epsilon_insensitive’}, default=’epsilon_insensitive’
指定损失函数。epsilon-insensitive 损失(标准 SVR)是 L1 损失,而 squared epsilon-insensitive 损失(’squared_epsilon_insensitive’)是 L2 损失。
- fit_interceptbool, default=True
是否拟合截距。如果设置为 True,特征向量将扩展以包含截距项:
[x_1, ..., x_n, 1]
,其中 1 对应于截距。如果设置为 False,计算中将不使用截距(即数据应已中心化)。- intercept_scalingfloat, default=1.0
当
fit_intercept
为 True 时,实例向量 x 变为[x_1, ..., x_n, intercept_scaling]
,即一个具有恒定值intercept_scaling
的“合成”特征被附加到实例向量。截距变为 intercept_scaling * 合成特征权重。注意,liblinear 内部对截距进行惩罚,将其视为特征向量中的任何其他项。为了减少正则化对截距的影响,可以将intercept_scaling
参数设置为大于 1 的值;intercept_scaling
的值越高,正则化对其的影响越小。然后,权重变为[w_x_1, ..., w_x_n, w_intercept*intercept_scaling]
,其中w_x_1, ..., w_x_n
表示特征权重,截距权重按intercept_scaling
缩放。这种缩放允许截距项具有与其他特征不同的正则化行为。- dual“auto” or bool, default=”auto”
选择算法来解决对偶或原始优化问题。当 n_samples > n_features 时,首选 dual=False。
dual="auto"
将根据n_samples
、n_features
和loss
的值自动选择参数的值。如果n_samples
<n_features
且优化器支持所选的loss
,则 dual 将设置为 True,否则将设置为 False。Changed in version 1.3: 在版本 1.3 中添加了
"auto"
选项,并将在版本 1.5 中成为默认值。- verboseint, default=0
启用详细输出。注意,此设置利用了 liblinear 中的每个进程运行时设置,如果启用,在多线程上下文中可能无法正常工作。
- random_stateint, RandomState instance or None, default=None
控制用于混洗数据的伪随机数生成。传递一个 int 以在多次函数调用中获得可重复的输出。请参阅 Glossary 。
- max_iterint, default=1000
要运行的最大迭代次数。
- Attributes:
- coef_ndarray of shape (n_features) if n_classes == 2 else (n_classes, n_features)
分配给特征的权重(在原始问题中的系数)。
coef_
是从raw_coef_
派生的只读属性,遵循 liblinear 的内部内存布局。- intercept_ndarray of shape (1) if n_classes == 2 else (n_classes)
决策函数中的常数。
- n_features_in_int
在 fit 期间看到的特征数量。
Added in version 0.24.
- feature_names_in_ndarray of shape (
n_features_in_
,) 在 fit 期间看到的特征名称。仅当
X
具有全部为字符串的特征名称时定义。Added in version 1.0.
- n_iter_int
在所有类别中运行的最大迭代次数。
See also
LinearSVC
使用与此类相同的库(liblinear)实现的支持向量机分类器。
SVR
使用 libsvm 实现的支持向量机回归:内核可以是非线性的,但其 SMO 算法不像
LinearSVR
那样扩展到大量样本。sklearn.linear_model.SGDRegressor
SGDRegressor 可以通过调整惩罚和损失参数来优化与 LinearSVR 相同的成本函数。此外,它需要的内存更少,允许增量(在线)学习,并实现各种损失函数和正则化机制。
Examples
>>> from sklearn.svm import LinearSVR >>> from sklearn.pipeline import make_pipeline >>> from sklearn.preprocessing import StandardScaler >>> from sklearn.datasets import make_regression >>> X, y = make_regression(n_features=4, random_state=0) >>> regr = make_pipeline(StandardScaler(), ... LinearSVR(random_state=0, tol=1e-5)) >>> regr.fit(X, y) Pipeline(steps=[('standardscaler', StandardScaler()), ('linearsvr', LinearSVR(random_state=0, tol=1e-05))])
>>> print(regr.named_steps['linearsvr'].coef_) [18.582... 27.023... 44.357... 64.522...] >>> print(regr.named_steps['linearsvr'].intercept_) [-4...] >>> print(regr.predict([[0, 0, 0, 0]])) [-2.384...]
- fit(X, y, sample_weight=None)#
拟合模型根据给定的训练数据。
- Parameters:
- X{array-like, sparse matrix},形状为 (n_samples, n_features)
训练向量,其中
n_samples
是样本的数量,n_features
是特征的数量。- y形状为 (n_samples,) 的 array-like
相对于 X 的目标向量。
- sample_weight形状为 (n_samples,) 的 array-like,默认=None
分配给单个样本的权重数组。如果没有提供, 则每个样本被赋予单位权重。
Added in version 0.18.
- Returns:
- selfobject
估计器的一个实例。
- get_metadata_routing()#
获取此对象的元数据路由。
请查看 用户指南 以了解路由机制的工作原理。
- Returns:
- routingMetadataRequest
MetadataRequest
封装的 路由信息。
- get_params(deep=True)#
获取此估计器的参数。
- Parameters:
- deepbool, 默认=True
如果为True,将返回此估计器和包含的子对象(也是估计器)的参数。
- Returns:
- paramsdict
参数名称映射到它们的值。
- predict(X)#
使用线性模型进行预测。
- Parameters:
- Xarray-like 或 sparse matrix, shape (n_samples, n_features)
样本。
- Returns:
- Carray, shape (n_samples,)
返回预测值。
- score(X, y, sample_weight=None)#
返回预测的决定系数。
决定系数 \(R^2\) 定义为 \((1 - rac{u}{v})\) ,其中 \(u\) 是残差平方和
((y_true - y_pred)** 2).sum()
,而 \(v\) 是总平方和((y_true - y_true.mean()) ** 2).sum()
。最好的可能得分是 1.0,它可能是负的(因为模型可能任意地差)。一个总是预测y
的期望值的常数模型,忽略输入特征,将得到 \(R^2\) 得分为 0.0。- Parameters:
- Xarray-like of shape (n_samples, n_features)
测试样本。对于某些估计器,这可能是一个预计算的核矩阵或一个形状为
(n_samples, n_samples_fitted)
的通用对象列表,其中n_samples_fitted
是估计器拟合中使用的样本数量。- yarray-like of shape (n_samples,) or (n_samples, n_outputs)
X
的真实值。- sample_weightarray-like of shape (n_samples,), default=None
样本权重。
- Returns:
- scorefloat
\(R^2\) 相对于
y
的self.predict(X)
。
Notes
在调用回归器的
score
时使用的 \(R^2\) 得分从 0.23 版本开始使用multioutput='uniform_average'
以保持与r2_score
默认值一致。 这影响了所有多输出回归器的score
方法(除了MultiOutputRegressor
)。
- set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LinearSVR #
Request metadata passed to the
fit
method.Note that this method is only relevant if
enable_metadata_routing=True
(seesklearn.set_config
). Please see User Guide on how the routing mechanism works.The options for each parameter are:
True
: metadata is requested, and passed tofit
if provided. The request is ignored if metadata is not provided.False
: metadata is not requested and the meta-estimator will not pass it tofit
.None
: metadata is not requested, and the meta-estimator will raise an error if the user provides it.str
: metadata should be passed to the meta-estimator with this given alias instead of the original name.
The default (
sklearn.utils.metadata_routing.UNCHANGED
) retains the existing request. This allows you to change the request for some parameters and not others.Added in version 1.3.
Note
This method is only relevant if this estimator is used as a sub-estimator of a meta-estimator, e.g. used inside a
Pipeline
. Otherwise it has no effect.- Parameters:
- sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED
Metadata routing for
sample_weight
parameter infit
.
- Returns:
- selfobject
The updated object.
- set_params(**params)#
设置此估计器的参数。
该方法适用于简单估计器以及嵌套对象(例如
Pipeline
)。后者具有形式为<component>__<parameter>
的参数,以便可以更新嵌套对象的每个组件。- Parameters:
- **paramsdict
估计器参数。
- Returns:
- selfestimator instance
估计器实例。
- set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LinearSVR #
Request metadata passed to the
score
method.Note that this method is only relevant if
enable_metadata_routing=True
(seesklearn.set_config
). Please see User Guide on how the routing mechanism works.The options for each parameter are:
True
: metadata is requested, and passed toscore
if provided. The request is ignored if metadata is not provided.False
: metadata is not requested and the meta-estimator will not pass it toscore
.None
: metadata is not requested, and the meta-estimator will raise an error if the user provides it.str
: metadata should be passed to the meta-estimator with this given alias instead of the original name.
The default (
sklearn.utils.metadata_routing.UNCHANGED
) retains the existing request. This allows you to change the request for some parameters and not others.Added in version 1.3.
Note
This method is only relevant if this estimator is used as a sub-estimator of a meta-estimator, e.g. used inside a
Pipeline
. Otherwise it has no effect.- Parameters:
- sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED
Metadata routing for
sample_weight
parameter inscore
.
- Returns:
- selfobject
The updated object.