梯度下降、ISTA和FISTA算法收敛速率推导

      本周主要是进行优化课程的复习，然后对梯度下降、ISTA和FISTA算法的收敛速率证明进行了总结。

一、梯度下降收敛速率证明：

 二、 ISTA的收敛速率（近端梯度下降法的收敛速率）

 

 三、FISTA的收敛速率（加速近端梯度下降法收敛速率）

       最近天气越来越冷了，有点不太适应，下周就要考试了，希望能顺利通过。