当前位置：首页 > article >正文

2023-12-03 C语言最小二乘法备忘

article 2024/11/14 18:49:25

点击 <C 语言编程核心突破> 快速C语言入门

C语言最小二乘法备忘

前言
一、数学公式
二、代码
总结

前言

要解决问题: 最小二乘法实现线性回归的C语言实现, 这个数学公式转为C语言.

一、数学公式

设有 $n$ 组数据

$\huge (x_1,y_1),(x_2,y_2),\cdots,(x_n,y_n)$

要求解线性方程

$\huge y=ax+b$

使得所有数据到直线的距离之和最小。

首先，计算数据的均值
$\huge \bar{x}=\frac{1}{n}\sum_{i=1}^nx_i$

和

$\huge \bar{y}=\frac{1}{n}\sum_{i=1}^ny_i$

然后，计算 $x$ 和 $y$ 的协方差

$\huge s_{xy}=\frac{1}{n}\sum_{i=1}^n(x_i-\bar{x})(y_i-\bar{y})$

和 $x$ 的方差

$\huge s_{x}^2=\frac{1}{n}\sum_{i=1}^n(x_i-\bar{x})^2$

最后，直线的斜率 $a$ 和截距 $b$ 分别为：

$\huge a=\frac{s_{xy}}{s_{x}^2}$

$\huge b=\bar{y}-a\bar{x}$

以上就是最小二乘法线性回归的数学公式，不使用矩阵。

二、代码

最小二乘法是一种数学优化技术，它通过最小化误差的平方和寻找数据的最佳函数匹配。

下面是一个使用C语言实现最小二乘法的例子：

#include <stdio.h>

// 最小二乘法
void leastSqaureMethod(double arrayX[], double arrayY[], const int num,
                       double *numA, double *numB)
{
    // 计算x和y的总和, 以计算平均值
    double sumX = 0.0;
    double sumY = 0.0;
    for (int i = 0; i != num; ++i)
    {
        sumX += arrayX[i];
        sumY += arrayY[i];
    }

    // 计算x和y的平均值
    double aveX = sumX / num;
    double aveY = sumY / num;

    // 计算n倍的x和y的协方差, 以及x的方差
    double nSXY = 0.0;
    double nS2X = 0.0;
    for (int i = 0; i != num; ++i)
    {
        nSXY += (arrayX[i] - aveX) * (arrayY[i] - aveY);
        nS2X += (arrayX[i] - aveX) * (arrayX[i] - aveX);
    }

    // 计算系数a和b
    *numA = nSXY / nS2X;
    *numB = aveY - (*numA) * aveX;
}

int main()
{
    double BOD5[] = {234, 251, 252, 285, 231, 202, 201, 238, 257,
                     211, 225, 220, 226, 268, 279, 300, 286, 254,
                     221, 232, 210, 219, 218, 222, 231};
    double CODCr[] = {532, 634, 559, 691, 484, 482, 474, 556, 512,
                      423, 541, 498, 551, 584, 621, 614, 547, 587,
                      529, 577, 485, 501, 500, 532, 561};

    double numA;
    double numB;

    leastSqaureMethod(BOD5, CODCr, 25, &numA, &numB);

    printf("f(x) = %lf * x + %lf\n", numA, numB);

    return 0;
}