我是靠谱客的博主 靓丽紫菜,这篇文章主要介绍无约束优化算法——牛顿法与拟牛顿法(DFP,BFGS,LBFGS),现在分享给大家,希望可以做个参考。

简介:最近在看逻辑回归算法,在算法构建模型的过程中需要对参数进行求解,采用的方法有梯度下降法和无约束项优化算法。之前对无约束项优化算法并不是很了解,于是在学习逻辑回归之前,先对无约束项优化算法中经典的算法学习了一下。下面将无约束项优化算法的细节进行描述。为了尊重别人的劳动成果,本文的出处是:http://blog.csdn.net/itplus/article/details/21896453

 

 

从这里我们可以看出:要想迭代出Xk+1,就只需要计算Dk+1即可。DFP算法是对Dk+1的一个近似计算的算法。BFGS算法是直接近似计算海森矩阵,用Bk+1表示。

 

 

最后

以上就是靓丽紫菜最近收集整理的关于无约束优化算法——牛顿法与拟牛顿法(DFP,BFGS,LBFGS)的全部内容,更多相关无约束优化算法——牛顿法与拟牛顿法(DFP内容请搜索靠谱客的其他文章。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(106)

评论列表共有 0 条评论

立即
投稿
返回
顶部