当前位置： 首页 > article >正文

【Convex Optimization Stanford】Lec4 CVX-opt-promblem

article 2025/2/2 19:51:28

【Convex Optimization Stanford】Lec4 CVX-opt-promblem

  • 前言
  • 优化问题的形式
    • 全局最优与局部最优
    • 隐式约束
    • 凸优化的一些问题
      • 可行性问题
      • 凸优化问题
    • 一些最优化理论
      • 凸优化问题的最优点
      • 对于可微分函数的最优化判断
      • 等价凸优化问题
    • 拟凸优化问题（Quasiconvex problem）
  • 经典算法的凸优化形式
    • 线性规划
    • 线性分数规划
    • 平方规划（如最小二乘）
    • 带平方限制条件的平方规划（QCQP）
    • 二阶凸锥规划（SOCP）
    • 泛化的线性规划
    • 几何规划
    • 泛化的不等式限制
    • 半正定规划（SDP）
    • 向量优化
    • 最优化与帕累托最优点
    • 多指标优化
    • 正则化最小二乘
    • 带风险反馈的
    • 标量化方法求解多标准优化

前言

关于拟凸函数（quasiconvex）和凸函数(convex)的例子：

  • f ( x ) = ∣ x ∣ , d o m f = R f(x)=\sqrt{|x|}, domf=R f(x)=∣x∣ ​,domf=R
    该函数显然不是convex函数，因为起二阶导数小于0，但是其是quasiconvex，因为其任何一个sublevel set都是凸的。

谱半径，一个矩阵的所有特征值的绝对值中，最大的值。

Perron-Frobenius特征值
在这里插入图片描述

优化问题的形式

在这里插入图片描述

全局最优与局部最优

在这里插入图片描述

隐式约束

意思就是包含所有函数的定义域的交集。
在这里插入图片描述

凸优化的一些问题

可行性问题

在这里插入图片描述

凸优化问题

即一个凸优化问题仅有凸的目标函数和凸函数的不等式与线形等式的约束构成。
在这里插入图片描述
在这里插入图片描述

一些最优化理论

凸优化问题的最优点

在这里插入图片描述

对于可微分函数的最优化判断

在这里插入图片描述

在这里插入图片描述

等价凸优化问题

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

拟凸优化问题（Quasiconvex problem）

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

经典算法的凸优化形式

线性规划

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

线性分数规划

在这里插入图片描述
在这里插入图片描述

平方规划（如最小二乘）

在这里插入图片描述
因为目标函数的二阶导数矩阵是半正定的，因此是convex的。

在这里插入图片描述
上图中的 x ∗ x^* x∗右边的A上伪逆。

带平方限制条件的平方规划（QCQP）

在这里插入图片描述

二阶凸锥规划（SOCP）

在这里插入图片描述

泛化的线性规划

在这里插入图片描述
在这里插入图片描述
上图的方法相当是用椭球体的形式，表达了随机变量 a i T a_i^T aiT​的范围。并最终用其最大偏差来小于b，从而实现确定性。
在这里插入图片描述

几何规划

在这里插入图片描述
上述的所有函数，仅需要记住其形式即可。通过如下的转换可以把上述问题转换为凸优化问题的形式，要记住这种转换方式。
在这里插入图片描述

泛化的不等式限制

在这里插入图片描述

半正定规划（SDP）

在这里插入图片描述
线性规划/SOCP作为SDP的形式。
在这里插入图片描述

向量优化

在这里插入图片描述

最优化与帕累托最优点

在这里插入图片描述

多指标优化

在这里插入图片描述

正则化最小二乘

在这里插入图片描述

带风险反馈的

在这里插入图片描述

标量化方法求解多标准优化

在这里插入图片描述在这里插入图片描述

在这里插入图片描述


http://www.kler.cn/a/528854.html

相关文章：

  • 什么是线性化PDF？
  • Spring Boot项目中解决跨域问题（四种方式）
  • 反向代理模块jmh
  • Pandas基础07（Csv/Excel/Mysql数据的存储与读取）
  • Flutter常用Widget小部件
  • langgraph实现 handsoff between agents 模式 (1)
  • os开发基础知识（1）
  • 计算机视觉：解锁智能时代的钥匙与实战案例
  • .Net WebAPI -[HttpPut(“{fileServiceId:int}“)]
  • 【数据结构】_时间复杂度相关OJ（力扣版）
  • 使用Visual Studio打包Python项目
  • 北京门头沟区房屋轮廓shp的arcgis数据建筑物轮廓无偏移坐标测评
  • 【机器学习】自定义数据集 使用scikit-learn中svm的包实现svm分类
  • RK3568使用QT操作LED灯
  • 2025年1月22日（网络编程 udp）
  • 动手学强化学习(四)——蒙特卡洛方法
  • vue之pinia组件的使用
  • AtCoder Beginner Contest 391（ABCDE）
  • Alibaba开发规范_编程规约之命名风格
  • 22.Word：小张-经费联审核结算单❗【16】
  • C_C++输入输出（下）
  • gesp(C++六级)（9）洛谷：P10721：[GESP202406 六级] 计算得分
  • UE学习日志#18 C++笔记#4 基础复习4 指派初始化器和指针
  • 手写防抖函数、手写节流函数
  • 【Rust自学】18.1. 能用到模式（匹配）的地方
  • Python在线编辑器