本书是面向理工科本科生的统计优化与计算入门教材，旨在从统计学的角度出发，系统介绍优化与计算问题的建模、求解和应用。本书从预备知识开始，循序渐进地讲解优化理论基础、无约束优化、带约束优化、线性规划和混合规划等核心内容，涵盖梯度下降法、Newton法、拟Newton法、罚函数法、单纯形法、分支定界法等经典算法。
　　本书特别强调理论与实践的结合：第3~6章配有软件实现环节，展示R等编程工具的具体应用；习题设计融入统计背景，突出优化方法在极大似然估计、EM算法、ADMM等统计计算中的重要作用。本书不仅培养学生的数学建模能力和算法分析能力，更注重提升解决实际问题的综合素养。


更多科学出版社服务，请扫码获取。

西南财经大学统计学博士西南财经大学统计学博士、教授、博士生导师统计学长年担任本科和研究生的优化方法课程，坚持教研结合，受到学生的一致好评；她是钟家庆数学奖获得者，国家级青年人才，四川省特聘专家，主要从事非参数理论与优化方法、分布式数据分析等领域研究。Associate Editor: Statistica Sinica and The American Statistician. Membership of Professional Organizations：Permanent member of International Chinese Statistical Association；Elected member of the International Statistical Institute (ISI) 中国现场统计研究会副秘书长，中国现场统计研究会因果推断分会常务理事，中国现场统计研究会统计教育分会副理事长，中国现场统计研究会多元统计分会理事，中国现场统计研究会旅游大数据分会理事；中国现场统计研究会数据科学与人工智能分会理事 Biometrics, The Annals of Applied Statistics, Technometics, Scandinavian Journal of Statistics, The Canadian Journal of Statistics, Journal of Multivariate A

目录
第1章 预备知识 1
1.1 Taylor展开 1
1.2 矩阵微分 2
1.3 范数 2
参考文献 4
第2章 基础理论 5
2.1 凸性理论 5
2.2 凸函数 9
2.3 无约束一阶、二阶充分必要条件 12
2.4 求解最优解算法 14
2.5 线搜索方法的步长选择 17
2.6 收敛速度 19
2.7 带约束一、二阶充分必要条件 21
2.7.1 约束最优化问题与基本概念 21
2.7.2 约束最优化问题的一阶最优性条件 23
2.7.3 约束最优化问题的二阶最优性条件 29
2.8 对偶 33
参考文献 41
习题2 42
第3章 无约束最优化问题与算法 44
3.1 引言 44
3.2 对偶范数 44
3.2.1 l？范数的对偶范数 45
3.2.2 l∞范数的对偶范数 45
3.2.3 l？范数的对偶范数 45
3.2.4 二次范数的对偶范数 45
3.3 最速下降法 46
3.3.1 方向导数 46
3.3.2 最速下降法的一般形式 46
3.3.3 梯度下降法 47
3.3.4 基于二次范数的最速下降法 47
3.3.5 基于l？范数的最速下降法 48
3.4 Newton法 48
3.5 其他梯度下降法 50
3.5.1 最小梯度法 50
3.5.2 随机梯度下降法 51
3.6 拟Newton法 52
3.6.1 拟Newton条件 52
3.6.2 SR1公式 53
3.6.3 BFGS法和DFP法 54
3.7 强凸条件下的收敛性分析 56
3.7.1 强凸条件 56
3.7.2 梯度下降法收敛性分析 58
3.7.3 Newton法收敛性分析 61
3.8 EM算法 61
3.8.1 EM算法介绍 61
3.8.2 EM算法导出 63
3.8.3 EM算法应用例子 64
3.9 软件实现 65
参考文献 70
习题3 70
第4章 带约束最优化问题与算法 73
4.1 Lagrange函数 73
4.2 外点罚函数方法 74
4.2.1 等式约束最优化问题的外点罚函数方法 74
4.2.2 一般约束最优化问题的外点罚函数方法 75
4.3 内点罚函数方法 76
4.4 增广Lagrange函数 77
4.5 统计应用 79
4.5.1 邻近点方法 79
4.5.2 交替方向乘子法 79
4.5.3 MM方法 80
4.6 软件实现 82
参考文献 86
习题4 87
第5章 规划 89
5.1 线性规划 89
5.1.1 图解法 90
5.1.2 单纯形法 90
5.2 二次规划 96
5.2.1 线性回归及最小二乘估计 96
5.2.2 Markowitz投资组合优化 97
5.2.3 二次规划及KKT条件 97
5.3 统计应用 98
5.3.1 分位数回归 98
5.3.2 非负矩阵分解 99
5.4 软件实现 100
5.4.1 大规模优化器——Gurobi 100
5.4.2 Gurobi在R中的应用 101
参考文献 105
习题5 105
第6章 混合规划 108
6.1 MIP模型 111
6.1.1 背包问题 111
6.1.2 投资组合问题 111
6.1.3 旅行商问题 112
6.2 分支定界法 112
6.3 割平面法 114
6.4 统计应用 117
6.4.1 L？回归 117
6.4.2 样本聚类 118
6.5 软件实现 118
参考文献 119
习题6 119
习题参考答案 121