当前位置：首页 > article >正文

机器学习-逻辑回归和softmax回归

article 2024/12/22 20:53:15

文章目录

逻辑回归
- 逻辑回归算法表达式
- 模型训练
- 逻辑回归做多分类
softmax回归
- 模型实例
- 训练模型
注意
代码

逻辑回归

logistic regression 并不是回归任务的算法，而是属于分类任务算法

在这里插入图片描述

逻辑回归算法表达式

一个型曲线（Sigmoid函数），将线性回归的值压缩到了0到1之间，这样就具备了概率含义；大于0.5为正例，反之是负例
在这里插入图片描述

模型训练

在这里插入图片描述

逻辑回归做多分类

在这里插入图片描述

softmax回归

多分类问题的机器学习算法
在这里插入图片描述

模型实例

假设你是一名动物园管理员，你想识别你们园区的动物。你拍了一些照片，其中包含狗、猫和鸟三种不同的动物。你需要一个算法来识别每张照片中的动物是哪一种。

在这里插入图片描述

训练模型

在这里插入图片描述

注意

多标签和多分类的区别
在这里插入图片描述

Softmax回归适合多分类模型，因为互斥就是各类别概率之和必须为1； 1
逻辑回归多分类转多个二分类适合，因为各个二分类模型是相互独立的；

代码

    multi_class : {'auto', 'ovr', 'multinomial'}, default='auto'
        If the option chosen is 'ovr', then a binary problem is fit for each
        label. For 'multinomial' the loss minimised is the multinomial loss fit
        across the entire probability distribution, *even when the data is
        binary*. 'multinomial' is unavailable when solver='liblinear'.
        'auto' selects 'ovr' if the data is binary, or if solver='liblinear',
        and otherwise selects 'multinomial'.