LinearDiscriminantAnalysis#

class sklearn.discriminant_analysis.LinearDiscriminantAnalysis(solver='svd', shrinkage=None, priors=None, n_components=None, store_covariance=False, tol=0.0001, covariance_estimator=None)[source]#

线性判别分析。

一种分类器,具有线性决策边界,通过拟合数据的类别条件密度并使用贝叶斯法则生成。

该模型为每个类别拟合一个高斯密度,假设所有类别共享相同的协方差矩阵。

拟合的模型也可用于通过使用 `transform` 方法将其投影到最具判别性的方向来降低输入的维度。

添加于版本 0.17。

有关 LinearDiscriminantAnalysisQuadraticDiscriminantAnalysis 之间的比较,请参阅 使用协方差椭球的线性判别分析和二次判别分析

更多信息请查阅 用户指南

参数:
solver{‘svd’, ‘lsqr’, ‘eigen’},默认为‘svd’
要使用的求解器,可能的值为
  • ‘svd’:奇异值分解(默认)。不计算协方差矩阵,因此此求解器推荐用于特征数量较多的数据。

  • ‘lsqr’:最小二乘解。可与收缩(shrinkage)或自定义协方差估计器结合使用。

  • ‘eigen’:特征值分解。可与收缩(shrinkage)或自定义协方差估计器结合使用。

版本 1.2 中的变更: solver="svd" 现在支持实验性数组 API。更多详情请参阅 数组 API 用户指南

shrinkage‘auto’ 或 float,默认为 None
收缩参数,可能的值为
  • None:不进行收缩(默认)。

  • ‘auto’:使用 Ledoit-Wolf 引理自动收缩。

  • 0 到 1 之间的浮点数:固定收缩参数。

如果使用 covariance_estimator,应将其设置为 None。请注意,收缩(shrinkage)仅适用于 ‘lsqr’ 和 ‘eigen’ 求解器。

用法示例请参阅 用于分类的普通、Ledoit-Wolf 和 OAS 线性判别分析

priors形状为 (n_classes,) 的类数组,默认为 None

类别先验概率。默认情况下,类别比例从训练数据中推断。

n_componentsint,默认为 None

用于降维的组件数量(<= min(n_classes - 1, n_features))。如果为 None,则将设置为 min(n_classes - 1, n_features)。此参数仅影响 transform 方法。

用法示例请参阅 Iris 数据集的 LDA 和 PCA 2D 投影比较

store_covariancebool,默认为 False

如果为 True,当求解器为 ‘svd’ 时,显式计算加权类内协方差矩阵。对于其他求解器,该矩阵始终会被计算并存储。

添加于版本 0.17。

tolfloat,默认为 1.0e-4

X 的奇异值被认为是显著的绝对阈值,用于估计 X 的秩。奇异值不显著的维度将被丢弃。仅当求解器为 ‘svd’ 时使用。

添加于版本 0.17。

covariance_estimator协方差估计器,默认为 None

如果不是 None,则使用 covariance_estimator 来估计协方差矩阵,而不是依赖经验协方差估计器(可能带有收缩)。该对象应具有 fit 方法和 covariance_ 属性,类似于 sklearn.covariance 中的估计器。如果为 None,则收缩参数控制估计。

如果使用 shrinkage,应将其设置为 None。请注意,covariance_estimator 仅适用于 ‘lsqr’ 和 ‘eigen’ 求解器。

添加于版本 0.24。

属性:
coef_形状为 (n_features,) 或 (n_classes, n_features) 的 ndarray

权重向量。

intercept_形状为 (n_classes,) 的 ndarray

截距项。

covariance_形状为 (n_features, n_features) 的类数组

加权类内协方差矩阵。它对应于 sum_k prior_k * C_k,其中 C_k 是类别 k 中样本的协方差矩阵。C_k 使用(可能收缩的)有偏协方差估计器进行估计。如果求解器为 ‘svd’,则仅当 store_covariance 为 True 时存在。

explained_variance_ratio_形状为 (n_components,) 的 ndarray

每个选定组件解释的方差百分比。如果未设置 n_components,则存储所有组件,并且解释方差的总和等于 1.0。仅当使用 eigen 或 svd 求解器时可用。

means_形状为 (n_classes, n_features) 的类数组

按类别计算的均值。

priors_形状为 (n_classes,) 的类数组

类别先验概率(总和为 1)。

scalings_形状为 (rank, n_classes - 1) 的类数组

类别中心点所张空间中特征的缩放。仅适用于 ‘svd’ 和 ‘eigen’ 求解器。

xbar_形状为 (n_features,) 的类数组

整体均值。仅当求解器为 ‘svd’ 时存在。

classes_形状为 (n_classes,) 的类数组

唯一的类别标签。

n_features_in_int

fit 期间看到的特征数量。

添加于版本 0.24。

feature_names_in_形状为 (n_features_in_,) 的 ndarray

fit 期间看到的特征名称。仅当 X 的所有特征名称均为字符串时定义。

添加于版本 1.0。

另请参阅

QuadraticDiscriminantAnalysis

Quadratic Discriminant Analysis(二次判别分析)。

示例

>>> import numpy as np
>>> from sklearn.discriminant_analysis import LinearDiscriminantAnalysis
>>> X = np.array([[-1, -1], [-2, -1], [-3, -2], [1, 1], [2, 1], [3, 2]])
>>> y = np.array([1, 1, 1, 2, 2, 2])
>>> clf = LinearDiscriminantAnalysis()
>>> clf.fit(X, y)
LinearDiscriminantAnalysis()
>>> print(clf.predict([[-0.8, -1]]))
[1]
decision_function(X)[source]#

将决策函数应用于样本数组。

决策函数(在一个常数因子范围内)等于模型的对数后验概率,即 log p(y = k | x)。在二分类设置中,这对应于 log p(y = 1 | x) - log p(y = 0 | x) 的差值。请参阅 LDA 和 QDA 分类器的数学公式

参数:
X形状为 (n_samples, n_features) 的类数组

样本数组(测试向量)。

返回:
y_scores形状为 (n_samples,) 或 (n_samples, n_classes) 的 ndarray

每个样本与每个类别相关的决策函数值。在两类别情况下,形状为 (n_samples,),表示正类的对数似然比。

fit(X, y)[source]#

拟合线性判别分析模型。

版本 0.19 中的变更: store_covariancetol 已移至主构造函数。

参数:
X形状为 (n_samples, n_features) 的类数组

训练数据。

y形状为 (n_samples,) 的类数组

目标值。

返回:
self对象

拟合后的估计器。

fit_transform(X, y=None, **fit_params)[source]#

拟合数据,然后进行转换。

使用可选参数 fit_params 将转换器拟合到 Xy,并返回 X 的转换版本。

参数:
X形状为 (n_samples, n_features) 的类数组

输入样本。

y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组,默认为 None

目标值(无监督转换时为 None)。

**fit_paramsdict

额外的拟合参数。

返回:
X_new形状为 (n_samples, n_features_new) 的 ndarray 数组

转换后的数组。

get_feature_names_out(input_features=None)[source]#

获取转换后的输出特征名称。

输出特征名称将以小写类名作为前缀。例如,如果转换器输出 3 个特征,则输出特征名称为:["class_name0", "class_name1", "class_name2"]

参数:
input_features形状为 str 的类数组或 None,默认为 None

仅用于根据 fit 中看到的名称验证特征名称。

返回:
feature_names_outstr 对象的 ndarray

转换后的特征名称。

get_metadata_routing()[source]#

获取此对象的元数据路由。

请查阅 用户指南,了解路由机制的工作原理。

返回:
routingMetadataRequest

一个封装了路由信息的 MetadataRequest

get_params(deep=True)[source]#

获取此估计器的参数。

参数:
deepbool,默认为 True

如果为 True,将返回此估计器及其包含的作为估计器的子对象的参数。

返回:
paramsdict

参数名称及其对应的值。

predict(X)[source]#

预测 X 中样本的类别标签。

参数:
X形状为 (n_samples, n_features) 的 {类数组, 稀疏矩阵}

我们要获取预测的数据矩阵。

返回:
y_pred形状为 (n_samples,) 的 ndarray

包含每个样本类别标签的向量。

predict_log_proba(X)[source]#

估计对数概率。

参数:
X形状为 (n_samples, n_features) 的类数组

输入数据。

返回:
C形状为 (n_samples, n_classes) 的 ndarray

估计的对数概率。

predict_proba(X)[source]#

估计概率。

参数:
X形状为 (n_samples, n_features) 的类数组

输入数据。

返回:
C形状为 (n_samples, n_classes) 的 ndarray

估计的概率。

score(X, y, sample_weight=None)[source]#

返回给定数据和标签的 准确度

在多标签分类中,这是子集准确度,这是一个严格的指标,因为它要求每个样本的每个标签集都被正确预测。

参数:
X形状为 (n_samples, n_features) 的类数组

测试样本。

y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组

X 的真实标签。

sample_weight形状为 (n_samples,) 的类数组,默认为 None

样本权重。

返回:
scorefloat

self.predict(X) 相对于 y 的平均准确度。

set_output(*, transform=None)[source]#

设置输出容器。

有关如何使用此 API 的示例,请参阅 set_output API 简介

参数:
transform{“default”, “pandas”, “polars”},默认为 None

配置 transformfit_transform 的输出。

  • "default":转换器的默认输出格式

  • "pandas":DataFrame 输出

  • "polars":Polars 输出

  • None:转换配置不变

添加于版本 1.4: 添加了 "polars" 选项。

返回:
self估计器实例

估计器实例。

set_params(**params)[source]#

设置此估计器的参数。

此方法适用于简单的估计器以及嵌套对象(如 Pipeline)。后者具有 <component>__<parameter> 形式的参数,因此可以更新嵌套对象的每个组件。

参数:
**paramsdict

估计器参数。

返回:
self估计器实例

估计器实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LinearDiscriminantAnalysis[source]#

请求传递给 score 方法的元数据。

请注意,此方法仅在 enable_metadata_routing=True 时才相关(请参阅 sklearn.set_config)。请查阅 用户指南,了解路由机制的工作原理。

每个参数的选项为

  • True:请求元数据,如果提供则传递给 score。如果未提供元数据,则忽略该请求。

  • False:不请求元数据,并且元估计器不会将其传递给 score

  • None:不请求元数据,如果用户提供,元估计器将引发错误。

  • str:元数据应以给定别名而非原始名称传递给元估计器。

默认值(sklearn.utils.metadata_routing.UNCHANGED)保留现有请求。这允许您更改某些参数的请求而不改变其他参数。

添加于版本 1.3。

注意

此方法仅在将此估计器用作元估计器(例如在 Pipeline 中使用)的子估计器时才相关。否则它没有效果。

参数:
sample_weightstr, True, False, 或 None,默认为 sklearn.utils.metadata_routing.UNCHANGED

score 方法中 sample_weight 参数的元数据路由。

返回:
self对象

更新后的对象。

transform(X)[source]#

投影数据以最大化类别分离。

参数:
X形状为 (n_samples, n_features) 的类数组

输入数据。

返回:
X_new形状为 (n_samples, n_components) 或 (n_samples, min(rank, n_components)) 的 ndarray

转换后的数据。在 ‘svd’ 求解器的情况下,形状为 (n_samples, min(rank, n_components))