用户指南

• 1. 监督学习
  • 1.1. 线性模型
    • 1.1.1. 普通最小二乘法
    • 1.1.2. 岭回归和分类
    • 1.1.3. Lasso
    • 1.1.4. 多任务Lasso
    • 1.1.5. 弹性网络
    • 1.1.6. 多任务弹性网
    • 1.1.7. 最小角回归
    • 1.1.8. LARS Lasso
    • 1.1.9. 正交匹配追踪 (OMP)
    • 1.1.10. 贝叶斯回归
    • 1.1.11. 逻辑回归
    • 1.1.12. 广义线性模型
    • 1.1.13. 随机梯度下降 - SGD
    • 1.1.14. 感知机
    • 1.1.15. 被动攻击算法
    • 1.1.16. 鲁棒性回归：异常值和模型错误
    • 1.1.17. 分位数回归
    • 1.1.18. 多项式回归：通过基函数扩展线性模型
  • 1.2. 线性判别分析和二次判别分析
    • 1.2.1. 使用线性判别分析进行降维
    • 1.2.2. LDA 和 QDA 分类器的数学表述
    • 1.2.3. LDA 降维的数学表述
    • 1.2.4. 收缩和协方差估计器
    • 1.2.5. 估计算法
  • 1.3. 核岭回归
  • 1.4. 支持向量机
    • 1.4.1. 分类
    • 1.4.2. 回归
    • 1.4.3. 密度估计，新颖性检测
    • 1.4.4. 复杂度
    • 1.4.5. 实用使用技巧
    • 1.4.6. 核函数
    • 1.4.7. 数学公式
    • 1.4.8. 实现细节
  • 1.5. 随机梯度下降
    • 1.5.1. 分类
    • 1.5.2. 回归
    • 1.5.3. 在线一类 SVM
    • 1.5.4. 停止准则
    • 1.5.5. 实用建议
    • 1.5.6. 数学公式
    • 1.5.7. 实现细节
  • 1.6. 最近邻算法
    • 1.6.1. 无监督最近邻
    • 1.6.2. 最近邻分类
    • 1.6.3. 最近邻回归
    • 1.6.4. 最近邻算法
    • 1.6.5. 最近质心分类器
    • 1.6.6. 最近邻变换器
    • 1.6.7. 邻域成分分析
  • 1.7. 高斯过程
    • 1.7.1. 高斯过程回归 (GPR)
    • 1.7.2. 高斯过程分类 (GPC)
    • 1.7.3. GPC 示例
    • 1.7.4. 高斯过程的核函数
  • 1.8. 交叉分解
    • 1.8.1. PLSCanonical
    • 1.8.2. PLSSVD
    • 1.8.3. PLSRegression
    • 1.8.4. 典型相关分析
  • 1.9. 朴素贝叶斯
    • 1.9.1. 高斯朴素贝叶斯
    • 1.9.2. 多项式朴素贝叶斯
    • 1.9.3. 补码朴素贝叶斯
    • 1.9.4. 伯努利朴素贝叶斯
    • 1.9.5. Categorical Naive Bayes
    • 1.9.6. 离线朴素贝叶斯模型拟合
  • 1.10. 决策树
    • 1.10.1. 分类
    • 1.10.2. 回归
    • 1.10.3. 多输出问题
    • 1.10.4. 复杂度
    • 1.10.5. 实用技巧
    • 1.10.6. 树算法：ID3、C4.5、C5.0和CART
    • 1.10.7. 数学公式
    • 1.10.8. 缺失值支持
    • 1.10.9. 最小成本复杂度剪枝
  • 1.11. 集成方法：梯度提升、随机森林、装袋、投票、堆叠
    • 1.11.1. 梯度提升树
    • 1.11.2. 随机森林和其他随机化树集成
    • 1.11.3. Bagging 元估计器
    • 1.11.4. 投票回归器
    • 1.11.5. 堆叠泛化
  • 1.12. 多类和多输出算法
    • 1.12.1. 多类分类
    • 1.12.2. 多标签分类
    • 1.12.3. 多类-多输出分类
    • 1.12.4. 多输出回归
  • 1.13. 特征选择
    • 1.13.1. 移除低方差的特征
    • 1.13.2. 单变量特征选择
    • 1.13.3. 递归特征消除
    • 1.13.4. 使用 SelectFromModel 进行特征选择
    • 1.13.5. 序列特征选择
    • 1.13.6. 作为管道一部分的特征选择
  • 1.14. 半监督学习
    • 1.14.1. 自训练
    • 1.14.2. 标签传播
  • 1.15. 等渗回归
  • 1.16. 概率校准
    • 1.16.1. 校准曲线
    • 1.16.2. 校准分类器
    • 1.16.3. 使用方法
  • 1.17. 神经网络模型（监督学习）
    • 1.17.1. 多层感知器
    • 1.17.2. 分类
    • 1.17.3. 回归
    • 1.17.4. 正则化
    • 1.17.5. 算法
    • 1.17.6. 复杂度
    • 1.17.7. 实用使用技巧
    • 1.17.8. 更多控制与 warm_start
• 2. 无监督学习
  • 2.1. 高斯混合模型
    • 2.1.1. 高斯混合
    • 2.1.2. 变分贝叶斯高斯混合
  • 2.2. 流形学习
    • 2.2.1. Isomap
    • 2.2.2. 局部线性嵌入
    • 2.2.3. 改进的局部线性嵌入
    • 2.2.4. Hessian Eigenmapping
    • 2.2.5. 谱嵌入
    • 2.2.6. 局部切空间对齐
    • 2.2.7. 多维尺度分析 (MDS)
    • 2.2.8. t-分布随机邻域嵌入 (t-SNE)
    • 2.2.9. 实用使用技巧
  • 2.3. 聚类
    • 2.3.1. 聚类方法概览
    • 2.3.2. K均值
    • 2.3.3. 亲和传播
    • 2.3.4. Mean Shift
    • 2.3.5. 谱聚类
    • 2.3.6. 层次聚类
    • 2.3.7. DBSCAN
    • 2.3.8. HDBSCAN
    • 2.3.9. OPTICS
    • 2.3.10. BIRCH
  • 2.4. 双向聚类
    • 2.4.1. 谱协同聚类
    • 2.4.2. 谱双聚类
    • 2.4.3. 双聚类评估
  • 2.5. 信号分解为成分（矩阵分解问题）
    • 2.5.1. 主成分分析（PCA）
    • 2.5.2. 核主成分分析 (kPCA)
    • 2.5.3. 截断奇异值分解与潜在语义分析
    • 2.5.4. 因子分析
    • 2.5.5. 独立成分分析（ICA）
    • 2.5.6. 非负矩阵分解（NMF 或 NNMF）
    • 2.5.7. 潜在狄利克雷分配（LDA）
  • 2.6. 协方差估计
    • 2.6.1. 经验协方差
    • 2.6.2. 收缩协方差
    • 2.6.3. 稀疏逆协方差
    • 2.6.4. 鲁棒协方差估计
  • 2.7. 新奇和异常检测
    • 2.7.1. 新颖性检测
    • 2.7.2. 异常检测
    • 2.7.3. 使用 Local Outlier Factor 进行新奇检测
  • 2.8. 密度估计
    • 2.8.1. 密度估计：直方图
    • 2.8.2. 核密度估计
  • 2.9. 神经网络模型（无监督）
    • 2.9.1. 受限玻尔兹曼机
• 3. 模型选择与评估
  • 3.1. 交叉验证：评估估计器性能
    • 3.1.1. 计算交叉验证指标
    • 3.1.2. 交叉验证迭代器
    • 3.1.3. 关于数据洗牌的注意事项
    • 3.1.4. 交叉验证与模型选择
    • 3.1.5. 置换测试分数
  • 3.2. 调整估计器的超参数
    • 3.2.1. 穷举网格搜索
    • 3.2.2. 随机参数优化
    • 3.2.3. 使用连续减半搜索最优参数
    • 3.2.4. 参数搜索技巧
    • 3.2.5. 暴力参数搜索的替代方案
  • 3.3. 调整分类预测的决策阈值
    • 3.3.1. 调整决策阈值后
  • 3.4. 度量和评分：量化预测质量
    • 3.4.1. 常见情况：预定义值
    • 3.4.2. 从指标函数定义您的评分策略
    • 3.4.3. 实现自己的评分对象
    • 3.4.4. 使用多指标评估
    • 3.4.5. 从二分类到多分类和多标签
    • 3.4.6. 准确率分数
    • 3.4.7. Top-k 准确度评分
    • 3.4.8. 平衡准确率得分
    • 3.4.9. Cohen’s kappa
    • 3.4.10. Confusion matrix
    • 3.4.11. 分类报告
    • 3.4.12. 汉明损失
    • 3.4.13. 精确度、召回率和F度量
    • 3.4.14. Jaccard 相似系数得分
    • 3.4.15. Hinge loss
    • 3.4.16. 对数损失
    • 3.4.17. Matthews 相關係數
    • 3.4.18. 多标签混淆矩阵
    • 3.4.19. 接收者操作特征 (ROC)
    • 3.4.20. 检测错误权衡（DET）
    • 3.4.21. 零一损失
    • 3.4.22. Brier 分数损失
    • 3.4.23. 类别似然比
    • 3.4.24. 分类的 D² 分数
    • 3.4.25. 覆盖误差
    • 3.4.26. 标签排名平均精度
    • 3.4.27. 排名损失
    • 3.4.28. 归一化折损累积增益
    • 3.4.29. R² 评分，决定系数
    • 3.4.30. 平均绝对误差
    • 3.4.31. 均方误差
    • 3.4.32. 均方对数误差
    • 3.4.33. 平均绝对百分比误差
    • 3.4.34. 中位数绝对误差
    • 3.4.35. 均值泊松、伽马和特威迪偏差
    • 3.4.36. Pinball 损失
    • 3.4.37. D² 得分
    • 3.4.38. 回归模型的可视化评估
  • 3.5. 验证曲线：绘制分数以评估模型
    • 3.5.1. 验证曲线
    • 3.5.2. 学习曲线
• 4. 检查
  • 4.1. 部分依赖图与个体条件期望图
    • 4.1.1. 部分依赖图
    • 4.1.2. 个体条件期望（ICE）图
    • 4.1.3. 数学定义
    • 4.1.4. 计算方法
  • 4.2. 排列特征重要性
    • 4.2.1. 排列重要性算法的概述
    • 4.2.2. 与基于树的杂质重要性的关系
    • 4.2.3. 误导性值在强相关特征上
• 5. 可视化
  • 5.1. 可用的绘图工具
    • 5.1.1. 显示对象
• 6. 数据集转换
  • 6.1. 流水线和复合估计器
    • 6.1.1. 流水线：链接估计器
    • 6.1.2. 回归中的目标变换
    • 6.1.3. FeatureUnion: 复合特征空间
    • 6.1.4. 用于异构数据的 ColumnTransformer
    • 6.1.5. 复合估计器的可视化
  • 6.2. 特征提取
    • 6.2.1. 从字典加载特征
    • 6.2.2. 特征哈希
    • 6.2.3. 文本特征提取
    • 6.2.4. 图像特征提取
  • 6.3. 数据预处理
    • 6.3.1. 标准化，或均值移除和方差缩放
    • 6.3.2. 非线性变换
    • 6.3.3. 归一化
    • 6.3.4. Encoding categorical features
    • 6.3.5. 离散化
    • 6.3.6. 缺失值的插补
    • 6.3.7. 生成多项式特征
    • 6.3.8. 自定义转换器
  • 6.4. 缺失值的插补
    • 6.4.1. 单变量与多变量插补
    • 6.4.2. 单变量特征插补
    • 6.4.3. 多元特征插补
    • 6.4.4. 最近邻插补
    • 6.4.5. 保持特征数量不变
    • 6.4.6. 标记插补值
    • 6.4.7. 处理 NaN 值的估计器
  • 6.5. 无监督维度缩减
    • 6.5.1. PCA: 主成分分析
    • 6.5.2. 随机投影
    • 6.5.3. 特征聚合
  • 6.6. 随机投影
    • 6.6.1. Johnson-Lindenstrauss 引理
    • 6.6.2. 高斯随机投影
    • 6.6.3. 稀疏随机投影
    • 6.6.4. 逆变换
  • 6.7. 核近似
    • 6.7.1. Nystroem 方法用于核近似
    • 6.7.2. 径向基函数核
    • 6.7.3. 加性 Chi Squared 核
    • 6.7.4. 偏斜卡方核
    • 6.7.5. 通过张量草图进行多项式核近似
    • 6.7.6. 数学细节
  • 6.8. 成对度量、亲和力和核函数
    • 6.8.1. 余弦相似度
    • 6.8.2. 线性核
    • 6.8.3. 多项式核
    • 6.8.4. Sigmoid 核
    • 6.8.5. RBF 核
    • 6.8.6. 拉普拉斯核
    • 6.8.7. Chi-squared kernel
  • 6.9. 转换预测目标（ y ）
    • 6.9.1. 标签二值化
    • 6.9.2. 标签编码
• 7. 数据集加载工具
  • 7.1. 玩具数据集
    • 7.1.1. Iris plants dataset
    • 7.1.2. Diabetes dataset
    • 7.1.3. Optical recognition of handwritten digits dataset
    • 7.1.4. Linnerrud dataset
    • 7.1.5. Wine recognition dataset
    • 7.1.6. Breast cancer wisconsin (diagnostic) dataset
  • 7.2. 真实世界数据集
    • 7.2.1. The Olivetti faces dataset
    • 7.2.2. The 20 newsgroups text dataset
    • 7.2.3. The Labeled Faces in the Wild face recognition dataset
    • 7.2.4. Forest covertypes
    • 7.2.5. RCV1 dataset
    • 7.2.6. Kddcup 99 dataset
    • 7.2.7. California Housing dataset
    • 7.2.8. Species distribution dataset
  • 7.3. 生成的数据集
    • 7.3.1. 分类和聚类的生成器
    • 7.3.2. 回归生成器
    • 7.3.3. 流形学习生成器
    • 7.3.4. 分解生成器
  • 7.4. 加载其他数据集
    • 7.4.1. 示例图像
    • 7.4.2. svmlight / libsvm 格式的数据集
    • 7.4.3. 从 openml.org 仓库下载数据集
    • 7.4.4. 从外部数据集加载
• 8. 使用 scikit-learn 进行计算
  • 8.1. 计算扩展策略：更大的数据
    • 8.1.1. 使用外存学习进行实例扩展
  • 8.2. 计算性能
    • 8.2.1. 预测延迟
    • 8.2.2. 预测吞吐量
    • 8.2.3. 技巧和窍门
  • 8.3. 并行性、资源管理和配置
    • 8.3.1. 并行性
    • 8.3.2. 配置开关
• 9. 模型持久化
  • 9.1. 工作流程概览
    • 9.1.1. 训练并持久化模型
  • 9.2. ONNX
  • 9.3. 安全性和可维护性限制
    • 9.3.1. 在生产环境中复制训练环境
    • 9.3.2. 提供模型工件
  • 9.4. 总结关键点
• 10. 常见陷阱与推荐实践
  • 10.1. 预处理不一致
  • 10.2. 数据泄露
    • 10.2.1. 如何避免数据泄露
    • 10.2.2. 预处理过程中的数据泄露
  • 10.3. 控制随机性
    • 10.3.1. 使用 None 或 RandomState 实例，以及对 fit 和 split 的重复调用
    • 10.3.2. 常见的陷阱和微妙之处
    • 10.3.3. 一般建议
• 11. 调度
  • 11.1. 数组 API 支持（实验性）
    • 11.1.1. 示例用法
    • 11.1.2. 支持 数组API 兼容输入
    • 11.1.3. 常见估计器检查
• 12. 选择合适的估计器
• 13. 外部资源、视频和演讲
  • 13.1. 科学计算Python新手？
  • 13.2. 外部教程
  • 13.3. 视频

开发中

• 1. 元数据路由