深度强化学习：PPO

深度强化学习算法：PPO

1. Importance Sampling

先说一下什么是采样：对于一个随机变量，我们通常用概率密度函数来描述该变量的概率分布特性。具体来说，给定随机变量的一个取值，可以根据概率密度函数来计算该值对应的概率（密度）。反过来也可以根据概率密度函数提供的概率分布信息来生成随机变量的一个取值，这就是采样。

现在假设需要对一个变量 X 的值进行估计，这个变量在真实环境中有一个分布 p ；那么在这个分布下可以获取到它的采样值 $x_i$ ，由于$x_i和X$是同分布的，即$E[x_i]=E[X]$ ，则可以利用大数定理来求解变量X的估计值：
$$E[x_i]=\frac{1}{2}\sum _{i=1}^n{x}_i=E[X]\text{\hspace{1em}(1)}$$
当获取的采样值数量n增加，估计值越来越趋近于真实值。蒙特卡洛也会这样不是吗。

但是现在有一个新的情况，假如变量 X 的分布为 p ，而获取的采样值的分布为 q ，则此时 $E[x_i]\ne E[X]$ ，那么便无法通过大数定理来估计了。但是现在的情况是我们不能从分布 p 采样数据，只能从分布 q 采样数据，q可以是任何分布。这时候就要用到重要性采样了。
$$E_{x\sim p}[f(x)]=E_{x\sim q}[f(x)\frac{p(x)}{q(x)}]\text{\hspace{1em}(2)}$$
我们从 q 里面采样 x ，再计算 $f(x)\frac{p(x)}{q(x)}$ ，再取期望值。所以就算我们不能从 p 里面采样数据，但只要从 q 里面采样数据，就可以计算从 p 采样 x 代入 f 之后的期望值了。这里需要乘上一个重要性权重 $\frac{p(x)}{q(x)}$ 来修正这两个分布的差异。 $q(x)$ 可以是任何分布，唯一的限制就是 $q(x)$ 的概率是 0 的时候， $p(x)$ 的概率不为 0 ，不然会没有定义。

尽管上面提到分布 q 可以是任何分布，但是仍有限制，就是分布 q 不能和分布 p 的差距太多，两个分布需要差不多的，只有这样两个分布的方差（$Va{r}_{x\sim p}[f(x)]和Va{r}_{x\sim p}[f(x)\frac{p(x)}{q(x)}]$）才会没有太多的差距。

分别把 $f(x)$ 和 $f(x)\frac{p(x)}{q(x)}$ 代入方差的公式 $Var[X]=E[X^2]-(E[x]{)}^2$，可得
$$\begin{gathered} Va{r}_{x\sim p}[f(x)]=E_{x\sim p}[f(x{)}^2]-(E_{x\sim p}[f(x)]{)}^2 \\ Va{r}_{x\sim q}[f(x)\frac{p(x)}{q(x)}]=E_{x\sim q}[(f(x)\frac{p(x)}{q(x)}{)}^2]-(E_{x\sim q}[f(x)\frac{p(x)}{q(x)}]{)}^2 \\ =E_{x\sim q}[f(x{)}^2\frac{p(x)}{q(x)}]-(E_{x\sim p}[f(x)]{)}^2\text{\hspace{1em}(3)} \end{gathered}$$
可以看到两者方差的差别在第一项， $Va{r}_{x\sim q}[f(x)\frac{p(x)}{q(x)}]$ 的第一项多乘了 $\frac{p(x)}{q(x)}$ 。如果两个分布的差距较大，那么这个概率估计就会有问题。

如上图所示，如果我们要计算 $f(x)$ 的期望，从分布 $p(x)$ 采样数据，那么 $E_{x\sim p}[f(x)]$ 是负的，这是由于左边区域 $p(x)$ 的概率很高，所以采样更倾向于在这个区域，而 $f(x)$ 在这个区域是负的，所以理论上这一项算出来会是负的。

如果从分布 $q(x)$ 中采样，由于 $q(x)$ 在右边区域的概率比较高，所以更倾向于在右侧这个区域采样，那么 $E_{x\sim q}[f(x)\frac{p(x)}{q(x)}]$ 就可能是正的。虽然左侧概率很低，但是也有可能被采样到。如果 $f(x)$ 好不容易采样到了左边的的点，在左边区域 $p(x)$ 很大， $q(x)$ 很小，，也就是 $f(x)$ 采样到一个负的点，这个负值来之不易，这个负值就应该乘上一个非常大的权重，这样就可以平衡其他采样到的正的值，那么最终得到的 $f(x)$ 的期望值还是负的。

那么之前的同策略（式(4)）就换成了异策略（式(5)）。
$$\nabla \overline{R_{\theta }}=E_{\tau \sim p_{\theta }(\tau )}[R(\tau )\nabla \log p_{\theta }(\tau )]\text{\hspace{1em}(4)}$$

$$\nabla \overline{R_{\theta }}=E_{\tau \sim p_{{\theta }^{{}^{\prime }}(\tau )}}[\frac{p_{\theta }(\tau )}{p_{{\theta }^{{}^{\prime }}}}R(\tau )\nabla \log p_{\theta }(\tau )]\text{\hspace{1em}(5)}$$

于是可得
$$E_{(s_t,a_t)\sim {\pi }_{{\theta }^{{}^{\prime }}}}[\frac{p_{\theta }(a_t|s_t)}{p_{{\theta }^{{}^{\prime }}}(a_t|s_t)}{A}^{{\theta }^{{}^{\prime }}}(s_t,a_t)\nabla \log p_{\theta }(a_t^n|s_t^n)]\text{\hspace{1em}(6)}$$
那么基于重要性采样的目标函数为：
$$J^{{\theta }^{{}^{\prime }}}(\theta )=E_{(s_t,a_t)\sim {\pi }_{{\theta }^{{}^{\prime }}}}[\frac{p_{\theta }(a_t,s_t)}{p_{{\theta }^{{}^{\prime }}}(a_t|s_t)}{A}^{{\theta }^{{}^{\prime }}}(s_t,a_t)]\text{\hspace{1em}(7)}$$
上式中 $J^{{\theta }^{{}^{\prime }}}(\theta )$ 中的 $\theta$ 是我们要去优化的参数， ${\theta }^{{}^{\prime }}$ 是我们用来做示范，也就是真正与环境交互的策略。 $A$ 是优势函数。

2. Proximal Policy Optimization

在重要性采样中有一个关键性问题： $p_{\theta }(a_t|s_t)$ 与 $p_{{\theta }^{{}^{\prime }}}(a_t|s_t)$不能相差太多，否则重要性采样的结果就会不好。至于如何做到这一点，就要用到 PPO 了。

要使得 $p_{{\theta }^{{}^{\prime }}}(a_t|s_t)$ 不能相差太多，就应该加上一个约束，这个约束可以是 $\theta$ 与 ${\theta }^{{}^{\prime }}$ 输出动作的 KL 散度 （KL divergence），这一项用来衡量两个策略的相似程度。两个策略越相似越好，如果不相似，那么最后的结果就会不太好。
$$J_{PPO}^{{\theta }^{{}^{\prime }}}(\theta )=J^{{\theta }^{{}^{\prime }}}(\theta )-\beta KL(\theta ,{\theta }^{{}^{\prime }})\text{\hspace{1em}(8)}$$
其中的 $J^{{\theta }^{{}^{\prime }}}(\theta )$ 就是式(7) 。

需要注意的是，虽然 PPO 的优化目标涉及到了重要性采样，但是只用到了上一轮策略 ${\theta }^{{}^{\prime }}$ 的数据。PPO 目标函数中加入了 KL 散度的约束，行为策略 ${\theta }^{{}^{\prime }}$ 和目标策略 $\theta$ 非常相近，所以 PPO 的行为策略和目标策略可认为是同一个策略，因此 PPO 是同策略算法。

这时候可能会有疑问：重要性采样用的是两个策略，但是 PPO 又是同策略，那为什么还要用重要性策略呢？这时可以再想想重要性采样的作用是什么，其要解决的问题又是什么。在重要性采样中我们用 ${\theta }^{{}^{\prime }}$ 采样，解决 $\theta$ 的问题，不需要再像之前那样采集一次数据学习一次，而是可以从另一个分布中采样数据进行学习，并且这些数据可以多次利用，也就是 $\theta$ 可以进行多次更新，一直到 $\theta$ 训练到一定的程度之后再让 ${\theta }^{{}^{\prime }}$ 重新采样，这样训练就会更有效率。

PPO 源自信任区域策略优化(Trust Region Policy Optimization, TRPO)， TRPO 可表示为：
$$J_{TRPO}^{{\theta }^{{}^{\prime }}}(\theta )=E_{(s_t,a_t)\sim {\pi }_{{\theta }^{{}^{\prime }}}}[\frac{p_{\theta }(a_t|s_t)}{p_{{\theta }^{{}^{\prime }}}(a_t|s_t)}{A}^{{\theta }^{{}^{\prime }}}(s_t,a_t)],KL(\theta ,{\theta }^{{}^{\prime }})<\delta \text{\hspace{1em}(9)}$$
TRPO 的核心思想是，当策略网络是深度模型时，直接沿着策略梯度更新参数可能会导致策略更新幅度过大，从而显著降低策略的性能，影响训练效果。为了避免这种情况， TRPO 在更新参数时引入了信任区域的概念，通过限制新旧策略之间的KL 散度，使策略更新控制在一个安全范围内，从而保证更新后的策略不会偏离得太远。这种做法有效提高了训练的稳定性。但是 TRPO 需要求解一个带约束的优化问题（通常通过共轭梯度法实现），实现较为复杂且对超参数敏感。 PPO 对此进行了改进，通过引入**裁剪(Clipping)**策略或者额外的 KL 散度惩罚项，简化了约束优化过程，同时保留了对策略更新幅度的限制。

通过式(8) 和式(9) 两个目标函数可以看到 TRPO 与 PPO 不一样的地方是约束所在的位置不一样，PPO 直接将约束放到要优化的式子里面，这样就可以用梯度上升的方法去最大化式(8)。 而 TRPO 是把 KL 散度当作约束，其希望 $\theta$ 与 ${\theta }^{{}^{\prime }}$ 的 KL 散度小于 $\delta$ 。

上面提到 PPO 通过引入裁剪或 KL 散度惩罚简化了约束优化过程，接下来就看一下 PPO 算法的这两个变种：近端策略优化惩罚(PPO-penalty) 和 近端策略优化裁剪(PPO-clip)。

3. PPO-Penalty

近端策略优化惩罚算法使用拉格朗日乘数法将 KL 散度的约束转换为目标函数中的惩罚项，变成了一个无约束的优化问题。在目标函数中加入 KL 散度惩罚项后，算法会在迭代过程中动态调整惩罚系数(KL 散度前的系数，比如式(8)中的 $\beta$) ，以控制策略更新幅度。如果 KL 散度过大，增大惩罚系数，从而限制更新幅度；如果 KL 散度过小，则减小惩罚系数，允许更积极地更新。这样即保留了 PPO 的更新稳定性，又显著简化了优化过程。

具体实现是，先初始化一个策略的参数 ${\theta }^0$ 。在每一个迭代里面，我们用前一个训练的迭代得到的演员的参数 ${\theta }^k$ 与环境交互，采样到大量状态-动作对。根据 ${\theta }^k$ 交互的结果，我们估测 $A^{{\theta }^k}(s_t,a_t)$ 。这里使用 PPO 的优化公式，但与原来的策略梯度不一样，原来的策略梯度只能更新一次参数，更新完以后，我们就要重新采样数据。但是现在不同，我们用 ${\theta }^k$ 与环境交互，采样到这组数据以后，我们可以让 $\theta$ 更新很多次，并最大化目标函数。

此外还有一个自适应 KL 散度(adaptive KL divergence) 。这里的自适应要解决的问题是 $\beta$ 应该设置为多少。这里可以动态调整，先设一个可以接受的 KL 散度的最大值。如果优化完式(8) 之后， KL 散度的值太大，这就代表后面惩罚的项 $\beta KL(\theta ,{\theta }^k)$ 没有发挥作用，此时需要将 $\beta$ 增大，另外，再设一个 KL 散度的最小值。如果做完目标函数优化之后，KL 散度的值比最小值还要小，那么就说明后面这一项的效果太强了，担心优化时只优化后一项使得 $\theta$ 与 ${\theta }^k$ 一样，所以需要减小 $\beta$ 。由于 $\beta$ 是可以动态调整的，所以称之为自适应KL惩罚(adaptive KL penalty)。

• 如果 $KL(\theta ,{\theta }^k)>K{L}_{max}$，增大 $\beta$；
• 如果 $KL(\theta ,{\theta }^k)<K{L}_{min}$，减小 $\beta$。

近端策略惩罚优化可表示为
$$\begin{gathered} J_{PPO}^{{\theta }^k}(\theta )=J^{{\theta }^k}(\theta )-\beta KL(\theta ,{\theta }^k) \\ {J}^{{\theta }^k}(\theta )\approx \sum _{(s_t,a_t)}\frac{p_{\theta }(a_t|s_t)}{p_{{\theta }^k}(a_t|s_t)}{A}^{{\theta }^k}(s_t,a_t)\text{\hspace{1em}(10)} \end{gathered}$$

4. PPO-Clip

近端策略优化裁剪的目标函数中没有 KL 散度，其要最大化的目标函数为
$$J_{PPO-clip}^{{\theta }^k}(\theta )\approx \sum _{(s_t,a_t)}min(\frac{p_{\theta }(a_t|s_t)}{p_{{\theta }^k}(a_t|s_t)}{A}^{{\theta }^k}(s_t,a_t),clip(\frac{p_{\theta }(a_t|s_t)}{p_{{\theta }^k}(a_t|s_t)},1-ϵ,1+ϵ)A^{{\theta }^k}(s_t,a_t))\text{\hspace{1em}(11)}$$

• $\epsilon $ 是一个超参数

PPO-Clip 直接在目标函数中进行限制，确保新旧策略差距不会过大，其核心思想是通过裁剪(clipping)的方式限制策略更新的幅度，从而在提高性能的同时，避免策略更新过渡导致的不稳定性。

$\frac{p_{\theta }(a_t|s_t)}{p_{{\theta }^k}(a_t|s_t)}$ 这一项是重要性采样，可以将它看作优势函数 $A^{{\theta }^k}(s_t,a_t)$ 的比例因子 $r_{\theta }$ ，它反映了前后两个策略在某个动作上的相对变化。裁剪操作会限制 $r_{\theta }$ 的范围，防止某个动作的概率发生过大的相对变化。这种局部限制有助于间接控制新旧策略在整体分布上的差异幅度，从而避免策略更新过度导致训练不稳定，裁剪(clip)操作的具体实现为：
$$\mathrm{clip}(r_{\theta },1-ϵ,1+ϵ)=\{\begin{array}{llc}1-ϵ& \mathrm{if}{r}_{\theta }<1-ϵ,& \\ r_{\theta }& \mathrm{if}1-ϵ\le r_{\theta }\le 1+ϵ,& \\ 1+ϵ& \mathrm{if}{r}_{\theta }>1+ϵ.& \end{array}\text{\hspace{1em}(12)}$$
从式(11)中可以看出 PPO-clip 中的目标函数的关键是 $min$ 操作：
$$min(r_{\theta }{A}^{{\theta }^k}(s_t,a_t),clip(r_{\theta },1-ϵ,1+ϵ)A^{{\theta }^k}(s_t,a_t))\text{\hspace{1em}(13)}$$
$r_{\theta }{A}^{{\theta }^k}(s_t,a_t)$ 是未加限制的目标，直接用重要性采样因子 $r_{\theta }$ 来放大或缩小优势函数的作用；
$clip(r_{\theta },1-ϵ,1+ϵ)A^{{\theta }^k}(s_t,a_t)$ 是经过裁剪的版本，来限制 $r_{\theta }$ 的变化范围，防止策略更新幅度过大。

如上图(a)所示，如果 A>0 ,取最小的结果，即红色的线；如上图(b)所示，如果 A<0 ，取最小的结果也就是取 $r_{\theta }$ 最大的结果，即红色的线。

优势函数 A 表示在某个状态下某个动作相对基线的好坏，如果 A>0 ，也就是该状态-动作对是好的，那么就可以增大这个状态-动作对的概率，也就是让 $p_{\theta }(a_t|s_t)$ 越大越好，一直大到 $1+ϵ$ 最大；如果 A<0 ，也就是该状态-动作对是不好的，那么就应该减小 $p_{\theta }(a_t|s_t)$ ，一直减到 $1-ϵ$ 最小。

相比于 PPO-penalty ，PPO-clip 不需要动态调整 KL 散度的惩罚系数 $\beta$ ，而是直接通过裁剪实现对策略更新幅度的控制，所以其计算效率更高，仅需要简单的比较运算，而 PPO-penalty 需要动态监控 KL 散度大小并调整惩罚系数。

在具体实现时优势函数可以使用 广义优势估计(GAE)。

参考：
1.李宏毅老师的课程的文字整理《强化学习教程》
2.张伟楠老师的书《动手学强化学习》