使用偏依赖进行高级绘图#

PartialDependenceDisplay 对象可用于绘图，无需重新计算偏依赖。在此示例中，我们将展示如何绘制偏依赖图以及如何使用可视化 API 快速自定义绘图。

注意

# Authors: The scikit-learn developers
# SPDX-License-Identifier: BSD-3-Clause

import matplotlib.pyplot as plt
import pandas as pd

from sklearn.datasets import load_diabetes
from sklearn.inspection import PartialDependenceDisplay
from sklearn.neural_network import MLPRegressor
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler
from sklearn.tree import DecisionTreeRegressor

在糖尿病数据集上训练模型#

首先，我们在糖尿病数据集上训练一个决策树和一个多层感知器。

diabetes = load_diabetes()
X = pd.DataFrame(diabetes.data, columns=diabetes.feature_names)
y = diabetes.target

tree = DecisionTreeRegressor()
mlp = make_pipeline(
    StandardScaler(),
    MLPRegressor(hidden_layer_sizes=(100, 100), tol=1e-2, max_iter=500, random_state=0),
)
tree.fit(X, y)
mlp.fit(X, y)

Pipeline(steps=[('standardscaler', StandardScaler()),
                ('mlpregressor',
                 MLPRegressor(hidden_layer_sizes=(100, 100), max_iter=500,
                              random_state=0, tol=0.01))])

在Jupyter环境中，请重新运行此单元格以显示HTML表示，或信任此notebook。
在GitHub上，HTML表示无法渲染，请尝试使用nbviewer.org加载此页面。

绘制两个特征的偏依赖#

我们绘制了决策树的“年龄”和“bmi”（体重指数）特征的偏依赖曲线。对于两个特征，from_estimator 期望绘制两条曲线。此处，绘图函数使用ax 定义的空间放置一个包含两个图的网格。

fig, ax = plt.subplots(figsize=(12, 6))
ax.set_title("Decision Tree")
tree_disp = PartialDependenceDisplay.from_estimator(tree, X, ["age", "bmi"], ax=ax)

可以绘制多层感知器的偏依赖曲线。在这种情况下，line_kw 传递给from_estimator 以更改曲线的颜色。

fig, ax = plt.subplots(figsize=(12, 6))
ax.set_title("Multi-layer Perceptron")
mlp_disp = PartialDependenceDisplay.from_estimator(
    mlp, X, ["age", "bmi"], ax=ax, line_kw={"color": "red"}
)

一起绘制两个模型的偏依赖#

tree_disp 和 mlp_disp PartialDependenceDisplay 对象包含重新创建偏依赖曲线所需的所有计算信息。这意味着我们可以轻松创建其他绘图，而无需重新计算曲线。

绘制曲线的一种方法是将它们放在同一图形中，每个模型的曲线放在每一行。首先，我们创建一个具有两行一列的两个坐标轴的图形。这两个坐标轴传递给tree_disp 和 mlp_disp 的 plot 函数。绘图函数将使用给定的坐标轴绘制偏依赖。生成的绘图将决策树偏依赖曲线放在第一行，多层感知器放在第二行。

fig, (ax1, ax2) = plt.subplots(2, 1, figsize=(10, 10))
tree_disp.plot(ax=ax1)
ax1.set_title("Decision Tree")
mlp_disp.plot(ax=ax2, line_kw={"color": "red"})
ax2.set_title("Multi-layer Perceptron")

Text(0.5, 1.0, 'Multi-layer Perceptron')

比较曲线的另一种方法是将它们叠加在一起。在这里，我们创建一个只有一行两列的图形。坐标轴作为列表传递到 plot 函数，这将在相同的坐标轴上绘制每个模型的偏依赖曲线。坐标轴列表的长度必须等于绘制的图的数量。

fig, (ax1, ax2) = plt.subplots(1, 2, figsize=(10, 6))
tree_disp.plot(ax=[ax1, ax2], line_kw={"label": "Decision Tree"})
mlp_disp.plot(
    ax=[ax1, ax2], line_kw={"label": "Multi-layer Perceptron", "color": "red"}
)
ax1.legend()
ax2.legend()

plot partial dependence visualization api

<matplotlib.legend.Legend object at 0x74b4aacca760>

tree_disp.axes_ 是一个 NumPy 数组，包含用于绘制偏依赖图的坐标轴。这可以传递给 mlp_disp 以达到将绘图叠加在一起的效果。此外，mlp_disp.figure_ 存储图形，允许在调用 plot 后调整图形大小。在这种情况下，tree_disp.axes_ 有两个维度，因此 plot 仅在最左边的图上显示 y 轴标签和 y 刻度。

tree_disp.plot(line_kw={"label": "Decision Tree"})
mlp_disp.plot(
    line_kw={"label": "Multi-layer Perceptron", "color": "red"}, ax=tree_disp.axes_
)
tree_disp.figure_.set_size_inches(10, 6)
tree_disp.axes_[0, 0].legend()
tree_disp.axes_[0, 1].legend()
plt.show()

绘制一个特征的偏依赖#

在这里，我们在相同的坐标轴上绘制单个特征“年龄”的偏依赖曲线。在这种情况下，tree_disp.axes_ 传递到第二个绘图函数。

tree_disp = PartialDependenceDisplay.from_estimator(tree, X, ["age"])
mlp_disp = PartialDependenceDisplay.from_estimator(
    mlp, X, ["age"], ax=tree_disp.axes_, line_kw={"color": "red"}
)

**脚本总运行时间：**（0 分钟 2.676 秒）