您当前的位置:首页 > IT编程 > TensorFlow
| C语言 | Java | VB | VC | python | Android | TensorFlow | C++ | oracle | 学术与代码 | cnn卷积神经网络 | gnn | 图像修复 | Keras | 数据集 | Neo4j | 自然语言处理 | 深度学习 | 医学CAD | 医学影像 | 超参数 | pointnet | pytorch | 异常检测 | Transformers | 情感分类 | 知识图谱 |

自学教程:数值优化(Numerical Optimization)学习系列

51自学网 2020-01-11 23:25:37
  TensorFlow
这篇教程数值优化(Numerical Optimization)学习系列写得很实用,希望能帮到您。
概述
数值优化对于最优化问题提供了一种迭代算法思路,通过迭代逐渐接近最优解,分别对无约束最优化问题和带约束最优化问题进行求解。
该系列教程可以参考的资料有
1.  《Numerical Optimization 2nd》–Jorge Nocedal Stephen J. Wright 
2. 《凸优化》–Stephen Boyd
3. 《非线性最优化基础》–Masao Fukushima(林贵华译)
4. 《非线性最优化理论与方法》–王宜举
5. 凸优化在线课程
 
学习链接

最优化问题概述
*介绍最优化问题分类以及求解思路
线搜索方法
*基于线搜索方法,包括最速下降、牛顿方法以及步长计算等
信赖域方法
*介绍信赖域求解最优化问题的思路
共轭梯度方法
*介绍共轭方法的思路
拟牛顿方法
*介绍拟牛顿方法,用一阶梯度近似Hessian矩阵方法
大规模无约束最优化方法
*大规模无约束问题,LBFGS等
梯度计算
*复杂函数梯度近似方法
无梯度最优化方法
*不计算梯度情况下,如何进行最优化
最小二乘问题
*最优化方法应用,求解最小二乘问题
非线性方程
*最优化方法应用,求解非线性方程问题
有约束最优化问题
*介绍等式、非等式约束最优化问题以及最优化条件,包括KKT条件、对偶等
线性规划问题
*线性规划常见求解算法
非线性约束最优化问题
*介绍非线性约束的最优化问题求解思路
二次规划问题
*目标函数是二次函数的特殊最优化问题,是SQP、内点等方法的基础
惩罚和增广拉格朗日方法
*求解带约束最优化问题常用方法
序列二次规划和内点法
*SQP和IP方法对于求解大规模约束最优化问题提供方案

数值优化(Numerical Optimization)学习系列-概述
一文看懂各种神经网络优化算法:从梯度下降到Adam方法
万事OK自学网:51自学网_软件自学网_CAD自学网自学excel、自学PS、自学CAD、自学C语言、自学css3实例,是一个通过网络自主学习工作技能的自学平台,网友喜欢的软件自学网站。