当前位置： 首页 > article >正文

1-【选修】逻辑回归

article 2025/1/9 6:00:56

1 Logistic Regression

1.1 step1: Function Set在这里插入图片描述

–
在这里插入图片描述

1.2 Step2: Goodness of a Function

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
cross entropy 衡量两个分布有多接近

在这里插入图片描述

1.3 Step3: Find the best function

在这里插入图片描述

在这里插入图片描述

1.4 Review

在这里插入图片描述

2 why not Logsitic Regression + Square Error?

在这里插入图片描述

在这里插入图片描述

3 Discriminative V.S. Generative

在这里插入图片描述

Logistics模型没有假设，但generative假设样本的probability distribution为高斯？朴素贝叶斯？等

3.1 which one is better

在这里插入图片描述
通常认为discriminative比generative要好

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
如上图所示，在Naive Bayes中并没有考虑不同dimension之间的correlation。所以generative模型中假定的probability distribution有可能会脑补出不应该有的条件

3.2 Benefit of generative model

在这里插入图片描述

4 Multi-class Classification

3 classes as example
在这里插入图片描述

在这里插入图片描述

5 Limitation of Logistic Regression

在这里插入图片描述

在这里插入图片描述

5.1 Feature Transformation

在这里插入图片描述

5.2 Cascading Logistic Regression Models

让机器自己学习找到好的feature transformation
在这里插入图片描述

这样机器自己学习后进行了feature transformation，从 x 1 , x 2 x_1, x_2 x1​,x2​转到 x 1 ′ , x 2 ′ x'_1, x'_2 x1′​,x2′​，再通过转化后的feature进行分类
在这里插入图片描述

Neural Network就来咯

在这里插入图片描述


http://www.kler.cn/a/472560.html

相关文章：

  • 【杂谈】-50+个生成式人工智能面试问题（一）
  • C++语言的并发编程
  • Redis Java 集成到 Spring Boot
  • Unity Burst详解
  • 回顾2024年重磅AI发布汇总
  • 什么是 ES6 “模板语法” ？
  • 2025新春烟花代码（二）HTML实现孔明灯和烟花效果
  • SpringBoot 使用 Cache 集成 Redis做缓存保姆教程
  • 能不能在家部署一个硬件实现远程唤醒局域网内所有电脑？
  • 从零手写实现redis（三）内存数据如何重启不丢失？
  • Spring Boot 项目自定义加解密实现配置文件的加密
  • ceph集群配置
  • IDEA的常用设置
  • LabVIEW软件Bug的定义与修改
  • HTML 音频(Audio)
  • IDEA 字符串拼接符号“+”位于下一行的前面，而不是当前行的末尾
  • 导航技术的分类
  • Swoole v6 正式发布
  • 软件架构的康威定律：AI如何重构团队协作模式
  • 【VUE+ElementUI】通过接口下载blob流文件设置全局Loading加载进度
  • 在 CentOS 上安装 Docker 和 Docker Compose（可指定版本或安装最新版本）
  • MySQL安装，配置教程
  • 如何设计一个能根据任务优先级来执行的线程池
  • 计算机的错误计算（二百零五）
  • RPM包的制作
  • HTML5实现好看的中秋节网页源码