等距回归#

等距回归在生成数据(具有同方差均匀噪声的非线性单调趋势)上的示例。

等距回归算法在最小化训练数据的均方误差的同时,找到函数的非递减近似值。这种非参数模型的优点是,除了单调性之外,它不假设目标函数的任何形状。为了比较,还给出了线性回归。

右侧的图显示了模型预测函数,该函数是阈值点的线性插值的结果。阈值点是训练输入观测值的子集,它们的匹配目标值由等距非参数拟合计算得出。

# Author: Nelle Varoquaux <[email protected]>
#         Alexandre Gramfort <[email protected]>
# License: BSD

import matplotlib.pyplot as plt
import numpy as np
from matplotlib.collections import LineCollection

from sklearn.isotonic import IsotonicRegression
from sklearn.linear_model import LinearRegression
from sklearn.utils import check_random_state

n = 100
x = np.arange(n)
rs = check_random_state(0)
y = rs.randint(-50, 50, size=(n,)) + 50.0 * np.log1p(np.arange(n))

拟合 IsotonicRegression 和 LinearRegression 模型

ir = IsotonicRegression(out_of_bounds="clip")
y_ = ir.fit_transform(x, y)

lr = LinearRegression()
lr.fit(x[:, np.newaxis], y)  # x needs to be 2d for LinearRegression
LinearRegression()
在 Jupyter 环境中,请重新运行此单元格以显示 HTML 表示或信任笔记本。
在 GitHub 上,HTML 表示无法呈现,请尝试使用 nbviewer.org 加载此页面。


绘制结果

segments = [[[i, y[i]], [i, y_[i]]] for i in range(n)]
lc = LineCollection(segments, zorder=0)
lc.set_array(np.ones(len(y)))
lc.set_linewidths(np.full(n, 0.5))

fig, (ax0, ax1) = plt.subplots(ncols=2, figsize=(12, 6))

ax0.plot(x, y, "C0.", markersize=12)
ax0.plot(x, y_, "C1.-", markersize=12)
ax0.plot(x, lr.predict(x[:, np.newaxis]), "C2-")
ax0.add_collection(lc)
ax0.legend(("Training data", "Isotonic fit", "Linear fit"), loc="lower right")
ax0.set_title("Isotonic regression fit on noisy data (n=%d)" % n)

x_test = np.linspace(-10, 110, 1000)
ax1.plot(x_test, ir.predict(x_test), "C1-")
ax1.plot(ir.X_thresholds_, ir.y_thresholds_, "C1.", markersize=12)
ax1.set_title("Prediction function (%d thresholds)" % len(ir.X_thresholds_))

plt.show()
Isotonic regression fit on noisy data (n=100), Prediction function (36 thresholds)

请注意,我们明确地将 out_of_bounds="clip" 传递给 IsotonicRegression 的构造函数,以控制模型在训练集中观察到的数据范围之外进行外推的方式。这种“裁剪”外推可以在右侧决策函数图上看到。

脚本的总运行时间:(0 分钟 0.152 秒)

相关示例

回归模型中转换目标的影响

回归模型中转换目标的影响

管道:将 PCA 和逻辑回归链接起来

管道:将 PCA 和逻辑回归链接起来

概率校准曲线

概率校准曲线

分类器的概率校准

分类器的概率校准

由 Sphinx-Gallery 生成的画廊