深度学习的正则化深入探讨

一、说明

在训练机器学习模型时，模型很容易过拟合或欠拟合。为了避免这种情况，我们在机器学习中使用正则化来使模型正确地拟合到我们的测试集。正则化技术有助于减少过拟合的可能性，并帮助我们获得最优模型。
在本文中，您将探索使用 Python 进行机器学习中的正则化概念。我们将讨论它在防止过拟合方面的意义和意义，确保模型能够很好地推广到新数据。您将看到正则化技术的示例，例如 L1 和 L2，以及它们在实践中的实施方式。此外，我们将参考来自 Analytics Vidhya 的见解，以增强您对这些方法及其对模型性能影响的理解。到最后，您将清楚地掌握正则化如何改进您的机器学习项目。

二、学习目标

了解机器学习中的正则化概念及其在防止过拟合和欠拟合方面的作用。
了解不同的正则化技术，例如 Ridge、Lasso 和 Elastic Net 正则化。
获得使用 Python 和 scikit-learn 实现正则化技术的实践知识。

三、什么是机器学习中的正则化

正则化是机器学习中使用的一种技术，用于防止过度拟合并提高模型的泛化性能。从本质上讲，正则化为损失函数添加了一个惩罚项，阻止了模型学习过于复杂的模式，这些模式可能无法很好地推广到看不见的数据。这有助于创建更简单、更健壮的模型。

正则化的主要好处包括：
减少过度拟合：通过限制模型的复杂性，正则化有助于防止模型记住训练数据中的噪声或不相关的模式。
提高泛化性：正则化模型往往在新的、看不见的数据上表现更好，因为它们专注于捕获底层模式，而不是完美地拟合训练数据。
增强模型稳定性：正则化使模型对训练数据中的微小波动不太敏感，从而获得更稳定和可靠的预测。
启用特征选择：一些正则化技术（例如 L1 正则化）可以自动识别并丢弃不相关的特征，从而产生更易解释的模型。
最常见的正则化技术是 L1 正则化 （Lasso），它将模型权重的绝对值添加到损失函数中，以及 L2 正则化 （Ridge），它将权重的平方值相加。通过纳入这些惩罚项，正则化在拟合训练数据和保持机器学习中的正则化之间取得了平衡

正则化是机器学习中使用的一种技术，用于防止过度拟合并提高模型的泛化性能。从本质上讲，正则化为损失函数添加了一个惩罚项，阻止了模型学习过于复杂的模式，这些模式可能无法很好地推广到看不见的数据。这有助于创建更简单、更健壮的模型。

最常见的正则化技术是 L1 正则化 （Lasso），它将模型权重的绝对值添加到损失函数中，以及 L2 正则化 （Ridge），它将权重的平方值相加。通过合并这些惩罚项，正则化在拟合训练数据和保持模型简单之间取得了平衡，最终在新数据上实现了更好的性能。

四、了解过拟合和欠拟合

为了训练我们的机器学习模型，我们为其提供数据以供学习。绘制一系列数据点并绘制最佳拟合线以了解变量之间关系的过程称为数据拟合。当我们的模型可以在我们的数据中找到所有必要的模式并避免随机数据点和称为噪声的不必要模式时，它最适合。

如果我们允许机器学习模型查看数据太多次，它将在数据中发现许多模式，包括一些不必要的模式。它将在测试数据集上很好地学习并且非常适合。它将学习重要的模式，但它也会从我们数据中的噪声中学习，并且无法对其他数据集进行预测。

机器学习模型尝试从细节以及数据中的噪声中学习，并尝试将每个数据点拟合到曲线的场景称为过拟合。

在下图中，我们可以看到该模型适合我们数据中的每个点。如果提供了新数据，则模型曲线可能与新数据中的模式不匹配，并且模型可能无法很好地预测。

相反，当我们没有让模型查看我们的数据足够多的时间时，它将无法在我们的测试数据集中找到模式。它不能很好地适应我们的测试数据集，也不能处理新数据。

当机器学习模型无法学习测试数据中变量之间的关系或无法预测或分类新数据点时，就会发生欠拟合。

下图显示了一个装备不足的模型。我们可以看到它没有正确拟合给出的数据。他没有在数据中找到模式，并且忽略了大部分数据集。它不能同时处理已知和未知数据。

五、代价函数的意义

代价函数/误差函数：采用斜率截距（m 和 c）值并返回误差值/成本值。它显示预测结果与实际结果之间的误差进行比较。它解释了您的模型在预测中是如何不准确的。

它用于估计模型对给定数据集及其维度的性能有多糟糕。

为什么成本函数在机器学习中很重要？是的，成本函数帮助我们达到最佳解决方案，那么我们该怎么做呢。将看到使用 Python 库的所有可能方法和简单步骤。

此功能通过最小化误差来帮助我们找出最佳直线

最佳拟合线是该线周围误差平方和最小的线

六、什么是偏差和方差？

当算法从数据集中学习的灵活性有限时，就会出现偏差。这些模型很少关注训练数据，并且过度简化了模型，因此验证或预测误差和训练误差遵循类似的趋势。此类模型始终会导致训练和测试数据中出现高误差。高偏差会导致我们的模型调整不足。

方差定义算法对特定数据集的敏感度。高方差模型密切关注训练数据，并且不会泛化，因此验证或预测误差彼此相差甚远。此类模型通常在训练数据上表现非常好，但在测试数据上具有很高的错误率。高偏差会导致模型出现过冲。

最优模型是指模型对模型中的模式敏感，但也可以泛化到新数据的模型。当偏差和方差都是最佳时，就会发生这种情况。我们称之为 Bias-Variance Tradeoff，我们可以使用回归在过度拟合或欠拟合的模型中实现这一点。

上图显示，当偏差较高时，测试集和训练集中的误差也很高。当偏差较高时，模型在我们的训练集上表现良好，误差较低，但测试集上的误差非常高。在这中间，有一个区域，偏差和方差在这里也彼此完美平衡，但训练和测试误差很低。

七、机器学习中的正则化？

它是指用于校准机器学习模型以最小化调整后的损失函数并避免过拟合或欠拟合的技术。

正则化技术
让我们讨论可用的正则化技术，然后是实现

1. 岭回归（L2 正则化）：

基本上，在这里，我们将最小化误差的平方和以及系数的平方和 （β）。在背景中，
具有较大幅度的系数 （β） 将生成图形峰值和
深斜率，为了抑制这一点，我们使用 lambda （λ） 用于称为
惩罚因子，并帮助我们获得光滑的表面而不是不规则的图形。Ridge Regression 用于将 coefficients（β） 值在量级方面推向接近零。这就是 L2 正则化，因为它增加了一个等价于系数大小的平方的罚值。

Ridge 回归 = Loss 函数 + 正则化项

2. 套索回归（L1 正则化）：
这与 Ridge 回归非常相似，在 Penalty Factor （惩罚因子） 中几乎没有差异，系数是量级而不是平方。其中许多系数有可能变为零，因此相应的属性/特征变为零并从列表中删除，这最终会减少维度并支持降维。那么决定这些属性/特征不适合作为预测目标值的捕食者。这是 L1 正则化，因为将绝对值添加为系数大小的惩罚等效值。

套索回归 = 损失函数 + 正则化项

3. Lambda 的特点
λ = 0λ => 最小值λ =>HighLambda 或罚因子 （λ）对系数 （β） 没有影响，模型会过拟合。不适用于
ProductionGeneralised 模型和可接受的精度，并且符合 Test and
Train 的条件。适合生产对系数 （β） 影响非常大，导致欠拟合。最终
不适合生产环境。

请记住一件事，Ridge 永远不会将系数归零，Lasso 会这样做。因此，您可以使用第二个进行特征选择。

正则化的影响

下面的图形表示清楚地表明了最佳配合。

4. 弹性网络回归正则化：
尽管 Python 提供了出色的库，但我们应该了解这背后的数学原理。以下是详细的推导供您参考。

山脊：α=0
套索：α=1
5. 正则化技术的图像表示

L1 和 L2 的数学方法
尽管 Python 提供了出色的库和简单的编码，但我们应该了解这背后的数学原理。以下是详细的推导供您参考。

让我们得到下面的多元线性回归数据集及其方程

正如我们所知道的，多元线性回归

$$y={\beta }_0+{\beta }_1{x}_1+{\beta }_2{x}_2+..................+{\beta }_n{x}_n————–1$$

$$y_i={\beta }_0+\sigma {\beta }_i{x}_i—————–2$$

Σ yi– β0– Σ βi 习

成本/损失函数： Σ{ yi– β0– Σ βi xij}2 — — — — — –3

正则化项： λΣ βi2 — — — — — -4

岭回归 = 损失函数 + 正则化项 — — — — — –5

将 3 和 4 放入 5 中

岭回归 = Σ { yi– β0– Σ βi xij}2+ λ Σ βi2

套索回归 = Σ { yi– β0– Σ βi xij}2+ λ Σ |βi|

x ==> 个自变量
y ==> 个目标变量
β ==> 系数
λ ==> 罚因子
系数 （β） 如何在内部计算

正则化代码
让我们以 Automobile — Predictive Analysis 为例，应用 L1 和 L2 以及它如何帮助模型评分。

目标：使用汽车的给定特征预测汽车的里程/每加仑英里数 （mpg）。

import numpy as np

import pandas as pd

import seaborn as sns

import matplotlib.pyplot as plt

from sklearn.linear_model import LinearRegression

from sklearn.linear_model import Ridge

from sklearn.linear_model import 套索

from sklearn.metrics import
 r2_score
 df_cars = pd.read_csv（“auto-mpg.csv”）
print（df_cars.head（5))

EDA：会做少量的 EDA（探索性数据分析），来理解数据集

观察：

1. 我们可以看到 Features 及其数据类型，以及 Null 约束。
2. 马力和名称特征是给定数据集中的对象。在建模过程中必须注意。

训练和测试拆分

from Sklearn model_selection import train_test_split X_train、X_test、y_train、y_test = train_test_split（X_scaled、y_scaled、test_size=0.25、random_state=1)