机器学习-学习算法
机器学习
1、回归算法
回归算法：是监督学习的一种。回归算法分为线性回归算法和非线性回归算
法。
1.1、线性回归算法
是指从输入到输出是线性变换，如加法和乘法等。线性回归算法旨在寻找空间中的一条线，使得这条线到所有样本点的距离和最小，线性回归算法常用于预测和分类领域。
假定数据集的特征满足线性关系，那就可以根据给定的训练数据训练一个模型，使用此模型进行预测或分类。线性回归中经常使用的两种算法是最小二乘法和逻辑回归。
1.1.1、最小二乘法
价格的预测值😒 y=w_{0}+w_{1}x_{1} $
通过算法，计算出w0和w1，使得模型y能尽量的准确预测标记y。
使用最小二乘法，求出理想参数w： w = ( X T X ) − 1 X T Y w = (X^T X)^{-1} X^TY w=(XTX)−1XTY
1.1.2、逻辑回归
逻辑回归也是回归算法的一种，可以用来预测，也可以解决二分类问题。
逻辑回归与线性回归的不同只是在特征到结果的映射中加入了一层函数映射，这一层函数映射可以将连续映射到(0,1)，然后使用某一个函数 q(z)作为假设函数来测。
那么逻辑回归如何将结果映射到(0,1)呢？这里要介绍一个 sigmoid 函数，也称为逻辑函数。
y = 1 1 + e − z y = \frac{1} {1+e^{-z}} y=