线性判别分析#(LinearDiscriminantAnalysis)
- class sklearn.discriminant_analysis.LinearDiscriminantAnalysis(solver='svd', shrinkage=None, priors=None, n_components=None, store_covariance=False, tol=0.0001, covariance_estimator=None)[source]#
线性判别分析。
一种具有线性决策边界的分类器,通过将类条件密度拟合到数据并使用贝叶斯规则生成。
该模型为每个类别拟合一个高斯密度,假设所有类别共享相同的协方差矩阵。
拟合后的模型还可以通过使用
transform
方法将其投影到最具区分性的方向上来降低输入的维数。在 0.17 版本中添加。
有关
LinearDiscriminantAnalysis
和QuadraticDiscriminantAnalysis
的比较,请参见具有协方差椭球的线性判别分析和二次判别分析。在用户指南中了解更多信息。
- 参数:
- solver{‘svd’, ‘lsqr’, ‘eigen’}, default=’svd’
- 使用的求解器,可能的值
‘svd’: 奇异值分解 (默认)。不计算协方差矩阵,因此对于具有大量特征的数据,推荐使用此求解器。
‘lsqr’: 最小二乘解。可以与收缩或自定义协方差估计器结合使用。
‘eigen’: 特征值分解。可以与收缩或自定义协方差估计器结合使用。
1.2 版本中的更改:
solver="svd"
现在具有实验性的数组 API 支持。有关更多详细信息,请参阅数组 API 用户指南。- shrinkage‘auto’ 或 float,default=None
- 收缩参数,可能的值
None: 无收缩 (默认)。
‘auto’: 使用 Ledoit-Wolf 引理进行自动收缩。
0 到 1 之间的浮点数:固定的收缩参数。
如果使用了
covariance_estimator
,则应将其保留为 None。请注意,收缩仅适用于 ‘lsqr’ 和 ‘eigen’ 求解器。有关使用方法示例,请参见用于分类的正态、Ledoit-Wolf 和 OAS 线性判别分析。
- priorsarray-like of shape (n_classes,), default=None
类先验概率。默认情况下,类比例是从训练数据中推断出来的。
- n_componentsint, default=None
用于降维的成分数(<= min(n_classes - 1, n_features))。如果为 None,则将其设置为 min(n_classes - 1, n_features)。此参数仅影响
transform
方法。有关使用方法示例,请参见鸢尾花数据集的 LDA 和 PCA 2D 投影比较。
- store_covariancebool, default=False
如果为 True,则在求解器为 ‘svd’ 时显式计算加权类内协方差矩阵。对于其他求解器,该矩阵始终被计算和存储。
在 0.17 版本中添加。
- tolfloat, default=1.0e-4
将 X 的奇异值视为显著的绝对阈值,用于估计 X 的秩。奇异值不显著的维度将被丢弃。仅当求解器为 ‘svd’ 时才使用。
在 0.17 版本中添加。
- covariance_estimator协方差估计器,default=None
如果非 None,则
covariance_estimator
用于估计协方差矩阵,而不是依赖于经验协方差估计器(可能具有收缩)。该对象应具有 fit 方法和covariance_
属性,例如sklearn.covariance
中的估计器。如果为 None,则收缩参数驱动估计。如果使用了
shrinkage
,则应将其保留为 None。请注意,covariance_estimator
仅适用于 ‘lsqr’ 和 ‘eigen’ 求解器。在 0.24 版本中添加。
- 属性:
- coef_ndarray of shape (n_features,) or (n_classes, n_features)
权重向量。
- intercept_ndarray of shape (n_classes,)
截距项。
- covariance_array-like of shape (n_features, n_features)
加权类内协方差矩阵。它对应于
sum_k prior_k * C_k
,其中C_k
是类别k
中样本的协方差矩阵。C_k
使用协方差的(可能收缩的)有偏估计器进行估计。如果求解器为 ‘svd’,则仅当store_covariance
为 True 时才存在。- explained_variance_ratio_形状为 (n_components,) 的ndarray
每个选定成分解释的方差百分比。如果未设置
n_components
,则存储所有成分,且解释方差之和等于 1.0。仅当使用 eigen 或 svd 求解器时可用。- means_形状为 (n_classes, n_features) 的类数组
类均值。
- priors_形状为 (n_classes,) 的类数组
类先验概率(总和为 1)。
- scalings_形状为 (rank, n_classes - 1) 的类数组
在由类中心跨越的空间中特征的缩放。仅适用于 'svd' 和 'eigen' 求解器。
- xbar_形状为 (n_features,) 的类数组
总体均值。仅当求解器为 'svd' 时存在。
- classes_形状为 (n_classes,) 的类数组
唯一的类标签。
- n_features_in_int
在fit期间看到的特征数量。
在 0.24 版本中添加。
- feature_names_in_形状为 (
n_features_in_
,) 的ndarray 在fit期间看到的特征名称。仅当
X
具有全部为字符串的特征名称时定义。1.0 版本新增。
另见
示例
>>> import numpy as np >>> from sklearn.discriminant_analysis import LinearDiscriminantAnalysis >>> X = np.array([[-1, -1], [-2, -1], [-3, -2], [1, 1], [2, 1], [3, 2]]) >>> y = np.array([1, 1, 1, 2, 2, 2]) >>> clf = LinearDiscriminantAnalysis() >>> clf.fit(X, y) LinearDiscriminantAnalysis() >>> print(clf.predict([[-0.8, -1]])) [1]
- decision_function(X)[source]#
将决策函数应用于样本数组。
决策函数等于(直至一个常数因子)模型的对数后验概率,即
log p(y = k | x)
。在二元分类设置中,这对应于差值log p(y = 1 | x) - log p(y = 0 | x)
。参见LDA 和 QDA 分类器的数学公式。- 参数:
- X形状为 (n_samples, n_features) 的类数组
样本数组(测试向量)。
- 返回:
- y_scores形状为 (n_samples,) 或 (n_samples, n_classes) 的ndarray
与每个样本的每个类相关的决策函数值。在两类情况下,形状为
(n_samples,)
,给出正类的对数似然比。
- fit(X, y)[source]#
拟合线性判别分析模型。
0.19 版本中的更改:
store_covariance
和tol
已移至主构造函数。- 参数:
- X形状为 (n_samples, n_features) 的类数组
训练数据。
- y形状为 (n_samples,) 的类数组
目标值。
- 返回:
- self对象
拟合的估计器。
- fit_transform(X, y=None, **fit_params)[source]#
拟合数据,然后转换它。
使用可选参数
fit_params
将转换器拟合到X
和y
,并返回X
的转换版本。- 参数:
- X形状为 (n_samples, n_features) 的类数组
输入样本。
- y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组,默认为 None
目标值(无监督转换则为 None)。
- **fit_paramsdict
附加拟合参数。
- 返回:
- X_new形状为 (n_samples, n_features_new) 的ndarray 数组
转换后的数组。
- get_feature_names_out(input_features=None)[source]#
获取转换的输出特征名称。
输出的特征名称将以小写的类名作为前缀。例如,如果转换器输出 3 个特征,则输出的特征名称为:
["class_name0", "class_name1", "class_name2"]
。- 参数:
- input_features字符串的类数组或 None,默认为 None
仅用于使用在
fit
中看到的名称验证特征名称。
- 返回:
- feature_names_out字符串对象的ndarray
转换后的特征名称。
- get_metadata_routing()[source]#
获取此对象的元数据路由。
请查看用户指南,了解路由机制的工作原理。
- 返回:
- routingMetadataRequest
一个
MetadataRequest
,封装了路由信息。
- get_params(deep=True)[source]#
获取此估计器的参数。
- 参数:
- deepbool,默认为 True
如果为 True,则将返回此估计器和作为估计器的包含子对象的参数。
- 返回:
- paramsdict
参数名称与其值的映射。
- predict(X)[source]#
预测 X 中样本的类标签。
- 参数:
- X形状为 (n_samples, n_features) 的{类数组,稀疏矩阵}
我们需要从中获取预测结果的数据矩阵。
- 返回:
- y_pred形状为 (n_samples,) 的ndarray
包含每个样本类别标签的向量。
- predict_log_proba(X)[source]#
估计对数概率。
- 参数:
- X形状为 (n_samples, n_features) 的类数组
输入数据。
- 返回:
- C形状为 (n_samples, n_classes) 的ndarray
估计的对数概率。
- predict_proba(X)[source]#
估计概率。
- 参数:
- X形状为 (n_samples, n_features) 的类数组
输入数据。
- 返回:
- C形状为 (n_samples, n_classes) 的ndarray
估计的概率。
- score(X, y, sample_weight=None)[source]#
返回给定测试数据和标签的平均准确率。
在多标签分类中,这是子集准确率,这是一个严格的指标,因为它要求每个样本的每个标签集都被正确预测。
- 参数:
- X形状为 (n_samples, n_features) 的类数组
测试样本。
- y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组
X
的真实标签。- sample_weight形状为 (n_samples,) 的类数组,默认为 None
样本权重。
- 返回:
- score浮点数
self.predict(X)
关于y
的平均准确率。
- set_output(*, transform=None)[source]#
设置输出容器。
参见 介绍 set_output API,了解如何使用该 API 的示例。
- 参数:
- transform{"default", "pandas", "polars"},默认为 None
配置
transform
和fit_transform
的输出。"default"
:转换器的默认输出格式"pandas"
:DataFrame 输出"polars"
:Polars 输出None
:转换配置保持不变
版本 1.4 中新增:
"polars"
选项已添加。
- 返回:
- self估计器实例
估计器实例。
- set_params(**params)[source]#
设置此估计器的参数。
此方法适用于简单的估计器以及嵌套对象(例如
Pipeline
)。后者具有<component>__<parameter>
形式的参数,因此可以更新嵌套对象的每个组件。- 参数:
- **params字典
估计器参数。
- 返回:
- self估计器实例
估计器实例。
- set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LinearDiscriminantAnalysis [source]#
请求传递给
score
方法的元数据。请注意,只有在
enable_metadata_routing=True
时(参见sklearn.set_config
)此方法才相关。请参见 用户指南,了解路由机制的工作原理。每个参数的选项为
True
:请求元数据,如果提供则将其传递给score
。如果未提供元数据,则忽略请求。False
:不请求元数据,元估计器不会将其传递给score
。None
:不请求元数据,如果用户提供元数据,元估计器将引发错误。str
:元数据应使用此给定别名而不是原始名称传递给元估计器。
默认值(
sklearn.utils.metadata_routing.UNCHANGED
)保留现有的请求。这允许您更改某些参数的请求,而其他参数则不变。版本 1.3 中新增。
注意
此方法仅当该估计器用作元估计器的子估计器时才相关,例如,在
Pipeline
中使用。否则,它无效。- 参数:
- sample_weightstr、True、False 或 None,默认为sklearn.utils.metadata_routing.UNCHANGED
score
中sample_weight
参数的元数据路由。
- 返回:
- self对象
更新后的对象。
示例库#
用于分类的正态、Ledoit-Wolf 和 OAS 线性判别分析