最优化计算方法

出版信息 (即将出版)

刘浩洋, 户将, 李勇锋,文再文,最优化计算方法
H. Liu, J. Hu, Y. Li, Z. Wen, Computational Methods For Optimization (in Chinese)

本书简介

最优化计算方法是运筹学、计算数学、机器学习和数据科学与大数据技术等专业的一门核心课程。最优化问题通常需要对实际需求进行定性和定量分析,建立恰当的数学模型来描述该问题,设计合适的计算方法来寻找问题的最优解,探索研究模型和算法的理论性质,考察算法的计算性能等多方面。最优化广泛应用于科学与工程计算、数据科学、机器学习、人工智能、图像和信号处理、金融和经济、管理科学等众多领域。本书将介绍最优化的基本概念、典型案例、基本算法和理论。 通过本书的学习,掌握最优化的基本概念,最优性理论,典型的几类最优化问题(如凸优化,无约束优化,约束优化,复合优化等等)的建模或判别,相关优化问题的基本计算方法,并能熟练调用基于MATLAB或Python等语言的典型优化软件程序求解一些标准的优化问题,灵活运用所讲授的算法和理论求解一些非标准的优化问题。达到锻炼将实际问题建立合适最优化模型的能力,选择合适的现有软件包和算法的能力,遇到没有现成算法自己实现简单算法的能力。

内容简介 (下载本书目录)

在第一章简要介绍最优化基本概念之后,本书从四个方面进行讲述。

  • 基础知识: 第二章介绍最优化建模和算法中经常需要使用的一些数值代数和数学分析等基础知识。数值代数部分包括范数、方程组求解、矩阵分解、数值代数软件包等,一些数值代数基础内容放在附录部分;数学分析部分包含导数、凸集、凸函数、次梯度、共轭函数等。此外,由于部分模型和算法用到一些概率基础知识,为了内容的完整性也在附录部分简要概述了随机变量、期望、方差、条件期望、概率不等式等等。

  • 优化建模:第三章阐述一些典型的优化建模方法,并以科学工程计算和机器学习中一些典型问题为例介绍如何建立优化模型。第四章给出了最优化问题的一些典型分类和判别技巧,如线性规划、半定规划、最小二乘问题、复合优化、矩阵优化、随机优化等等。一个实际问题根据其侧重点可以由不同的优化模型来描述,一种优化模型也可以对应很多不同的实际应用。

  • 最优性理论:第五章介绍最优性理论,包括最优解的存在性和唯一性,无约束可微问题、无约束不可微问题、带约束优化问题的一阶或二阶最优性条件,对偶理论,带广义不等式(如半定规划问题)的对偶理论。

  • 最优化算法:第六章介绍无约束优化算法,包括线搜索方法、梯度类算法、次梯度算法、牛顿类算法、信赖域算法、非线性最小二乘法。第七章介绍约束优化算法,包括罚函数法、增广拉格朗日函数法及其在典型凸优化问题的主问题和对偶问题上的具体应用,线性规划内点法。第八章介绍复合优化算法,包括近似点梯度法、Nesterov加速算法、近似点算法、分块坐标下降法、对偶算法、交替方向乘子法、随机优化算法。

信息反馈

限于作者的知识水平,书中难免有不妥和错误之处,恳请读者不吝批评和指正。

  • 文再文, wenzw at pku dot edu dot cn

  • 刘浩洋, liuhaoyang at pku dot edu dot cn

  • 户将, jianghu at pku dot edu dot cn

  • 李勇锋, Yongfengli at pku dot edu dot cn

课程信息