仲恺农业工程学院硕士研究生课程教学大纲课程编号207033最优化方法课程名称冯大春撰写人(签名)所在学院、信息科学与技术学院仲恺农业工程学院研究生处制-
1 仲恺农业工程学院 硕士研究生课程教学大纲 课程编号 207033 课程名称 最优化方法 撰写人(签名) 冯大春 所在学院 信息科学与技术学院 仲恺农业工程学院研究生处制
I课程基本情况中文最优化方法1.课程编号2.课程名称英文OptimizationMethods理论学时:323.课程学分:4.课程总学时:32I实验学时:5.课程类别:口学位课程团非学位课程6.适用专业:电子信息类、食品安全与智能控制、农业工程与信息技术7.先修课程:高等数字、微积分、线性代数、概率论8.考核方式:口闭卷笔试口开卷笔试/口试、课程论文口调研报告口其他(说明:学位课程必须闭卷考试,卷面成绩占该门课成绩70%,平时考查成绩占该门课成绩30%)9.开课学期:口秋季(第一学期)口春季(第二学期)口秋季和春季(第一和第二学期)II课程简介《最优化方法》是新工科专业中的一门基础类实用性课程。最优化是一门研究资源有限条件下选择最合理的方案以达到最优目标的科学,随着即使算计的发展与普及,最优化理论与方法的研究及应用呈现快速发展之势,现已广泛应用于自然学科、过程技术、管理科学及军事科学等诸多领域,是电子信息类硕士研究生和优化涉及工程技术人员的一门重要课程。课程学习最优化的基本理论,各类优化问题的算法,以及常用算法的收敛性理论。重点培养学生运用数学工具进行优化建模,综合运用所学知识解决问题的能力。结合课程的进展,介绍学科发展前沿研究动态,使学生了解该学科国内外有关最新研究成果。加深他们对最优化理论和算法的理解和认识。本课程的目的与任务是使学生通过课程的学习,从最优化的基本概念和基本理论出发,循序渐进学习,并通过引入实际案例的训练,从理论、方法、能力三方面进行学习和训练,在掌握最优化以及数学规划基本方法的同时,提高学生在建立模型和算法分析方面的水平和能力,并针对工程应用问题,提出有效解决方案,进而让学生从更高起到和不同的角度看待物理世界和社会经济系统中的最优化问题,并由此完善自已认识世界的方法论。并为以后的科学研究和工作奠定基础。III课程教学目标1.要求学生系统地掌握无约束优化.c约束优化.c多目标规划.c组合优化与整数规划.c全局优化等问题的一些基本方法,了解各算法的收敛性和优缺点;2.具有较强的优化建模能力,能结合Matlab工具箱实现相关的算法,并应用算法解决实际问题;3.阅读相关中外文献,了解其最新动态,力争在实际应用或某些方法上有所创新。2
2 I 课程基本情况 1.课程编号 2.课程名称 中文 最优化方法 英文 Optimization Methods 3.课程学分: 1 4.课程总学时:32 理论学时:32 实验学时: 5.课程类别:囗学位课程 非学位课程 6.适用专业:电子信息类、食品安全与智能控制、农业工程与信息技术 7.先修课程: 高等数字、微积分、线性代数、概率论 8.考核方式:囗闭卷笔试 囗开卷笔试/ 口试、课程论文 囗调研报告 囗其他 (说明:学位课程必须闭卷考试,卷面成绩占该门课成绩 70%,平时考查成绩占该门课成绩 30%) 9.开课学期:秋季(第一学期) 囗春季(第二学期) 囗秋季和春季(第一和第二学期) II 课程简介 《最优化方法》是新工科专业中的一门基础类实用性课程。最优化是一门研究资源有限条 件下选择最合理的方案以达到最优目标的科学,随着即使算计的发展与普及,最优化理论与方 法的研究及应用呈现快速发展之势,现已广泛应用于自然学科、过程技术、管理科学及军事科 学等诸多领域,是电子信息类硕士研究生和优化涉及工程技术人员的一门重要课程。课程学习 最优化的基本理论,各类优化问题的算法,以及常用算法的收敛性理论。重点培养学生运用数 学工具进行优化建模,综合运用所学知识解决问题的能力。结合课程的进展,介绍学科发展前 沿研究动态,使学生了解该学科国内外有关最新研究成果。加深他们对最优化理论和算法的理 解和认识。 本课程的目的与任务是使学生通过课程的学习,从最优化的基本概念和基本理论出发,循 序渐进学习,并通过引入实际案例的训练,从理论、方法、能力三方面进行学习和训练,在掌 握最优化以及数学规划基本方法的同时,提高学生在建立模型和算法分析方面的水平和能力, 并针对工程应用问题,提出有效解决方案,进而让学生从更高起到和不同的角度看待物理世界 和社会经济系统中的最优化问题,并由此完善自己认识世界的方法论。并为以后的科学研究和 工作奠定基础。 III 课程教学目标 1. 要求学生系统地掌握无约束优化.c 约束优化.c 多目标规划.c 组合优化与整数规划.c 全局 优化等问题的一些基本方法,了解各算法的收敛性和优缺点; 2. 具有较强的优化建模能力,能结合 Matlab 工具箱实现相关的算法,并应用算法解决实 际问题; 3.阅读相关中外文献,了解其最新动态,力争在实际应用或某些方法上有所创新
IV课程教学内容及要求(包括章节、教学目的与要求、重点与难点、教学内容、教学方法与方式、思考与讨论)第一章一般优化模型与数学基础【教学目的与要求】(1)理解最优化问题基本概念;(2)了解最优化问题的应用范畴:(3)求解最优化问题工具。【教学重点与难点】重点:了解最优化与运筹学的研究对象、初步建立最优化与运筹学建模的思想,理解梯度与Hesse阵等数学基础知识在研究最优化与运筹学问题中的作用。难点:正确理解局部最优解与全局最优解的概念,知道局部最优解在求解实际问题中的意义。掌握数学分析的基础。【教学内容】1.主要内容最优化问题的定义,最优化问题分类,并通过实际问题说明最优化问题应用范畴。2.基本概念和知识点(1)最优化问题实例;(2)最优化问题的基本概念:最优解、局部最优解、全局最优解、(等式与不等式)约束条件;(3)二维优化问题的图解法:(4)梯度与Hesse阵;(5)多元函数的Taylor展开式:(6)凸集与凸函数;(7)极小点的判定与算法的有关概念:(8)Matlab编程介绍。【教学方法】教师PPT讲解;学生讨论。【思考与讨论】(1)最优化问题在本专业上的应用:(2)Matlab相关求解包;(3)优化问题基本概念在现代优化相关算法中如何体现。第二章无约束最优化问题求解方法【教学目的与要求】掌握无约束最优化问题求解的最速下降法、Newton法和共轭方向与共轭梯度法、非线性最小二乘问题等基本方法,知道变尺度法中的DFP、BFGS等迭代公式,并能按所给公式对简单的实际问题编程求解,了解无约束最优化的非精确直线搜索技术。【教学重点与难点】重点:无约束最优化问题求解的最速下降法、Newton法和共轭方向与共轭梯度法、非线性最小二乘问题、变尺度法中的DFP、BFGS等迭代公式,从算法实现的过程体会不同算法的收敛速度差3
3 IV 课程教学内容及要求 (包括章节、教学目的与要求、重点与难点、教学内容、教学方法与方式、思考与讨论) 第一章 一般优化模型与数学基础 【教学目的与要求】 (1)理解最优化问题基本概念; (2)了解最优化问题的应用范畴; (3)求解最优化问题工具。 【教学重点与难点】 重点: 了解最优化与运筹学的研究对象、初步建立最优化与运筹学建模的思想,理解梯度与 Hesse 阵等数学基础知识在研究最优化与运筹学问题中的作用。 难点: 正确理解局部最优解与全局最优解的概念,知道局部最优解在求解实际问题中的意义。 掌握数学分析的基础。 【教学内容】 1. 主要内容 最优化问题的定义,最优化问题分类,并通过实际问题说明最优化问题应用范畴。 2. 基本概念和知识点 (1)最优化问题实例;(2)最优化问题的基本概念:最优解、局部最优解、全局最优解、 (等式与不等式)约束条件;(3)二维优化问题的图解法;(4)梯度与 Hesse 阵;(5)多元函 数的 Taylor 展开式;(6)凸集与凸函数;(7)极小点的判定与算法的有关概念;(8)Matlab 编程介绍。 【教学方法】 教师 PPT 讲解;学生讨论。 【思考与讨论】 (1)最优化问题在本专业上的应用; (2)Matlab 相关求解包; (3)优化问题基本概念在现代优化相关算法中如何体现。 第二章 无约束最优化问题求解方法 【教学目的与要求】 掌握无约束最优化问题求解的最速下降法、Newton 法和共轭方向与共轭梯度法、非线性最 小二乘问题等基本方法,知道变尺度法中的 DFP、BFGS 等迭代公式,并能按所给公式对简单的 实际问题编程求解,了解无约束最优化的非精确直线搜索技术。 【教学重点与难点】 重点: 无约束最优化问题求解的最速下降法、Newton 法和共轭方向与共轭梯度法、非线性最小二 乘问题、变尺度法中的 DFP、BFGS 等迭代公式,从算法实现的过程体会不同算法的收敛速度差
异。难点:能按所给选代公式对实际问题进行编程求解,学习使用无约束最优化的非精确直线搜索技术。【教学内容】第一节负梯度方法与Newton型方法1.主要内容(1)最速下降法(2)Newton型法(3)拟Newton方法(4)拟Newton方法的基本性质(5)DFP公式2.基本概念和知识点最速下降法、Newton型法、拟Newton方法、拟Newton方法的基本性质、DFP公式第二节共轭梯度法1.主要内容(1)共轭方向及其性质(2)对正定二次函数的共轭梯度方法(3)非线性共轭梯度方法(4)Broyden簇方法搜索方向的共轭性2.基本概念和知识点共轭方向定义、性质,学习正定二次函数的共轭梯度方法、对一般问题的非线性共轭梯度方法,Broyden簇方法搜索方向的共轭性。第三节非线性最小二乘问题1.主要内容(1)最小二乘问题(2)Gauss-Newton方法(3)LMF方法(4)Dogleg方法(5)大剩余量方法2.基本概念和知识点非线性最小二乘问题相关概念,求解非线性最小二乘的方法。重点学习Gauss-Newton方法,并介绍LMF及Dogleg方法。【教学方法】教师PPT讲解;学生讨论。【思考与讨论】略4
4 异。 难点: 能按所给迭代公式对实际问题进行编程求解,学习使用无约束最优化的非精确直线搜索技 术。 【教学内容】 第一节 负梯度方法与 Newton 型方法 1. 主要内容 (1)最速下降法 (2)Newton 型法 (3)拟 Newton 方法 (4)拟 Newton 方法的基本性质 (5)DFP 公式 2. 基本概念和知识点 最速下降法、Newton 型法、拟 Newton 方法、拟 Newton 方法的基本性质、DFP 公式 第二节 共轭梯度法 1. 主要内容 (1)共轭方向及其性质 (2)对正定二次函数的共轭梯度方法 (3)非线性共轭梯度方法 (4)Broyden 簇方法搜索方向的共轭性 2. 基本概念和知识点 共轭方向定义、性质,学习正定二次函数的共轭梯度方法、对一般问题的非线性共轭梯度 方法,Broyden 簇方法搜索方向的共轭性。 第三节 非线性最小二乘问题 1. 主要内容 (1)最小二乘问题 (2)Gauss-Newton 方法 (3)LMF 方法 (4)Dogleg 方法 (5)大剩余量方法 2. 基本概念和知识点 非线性最小二乘问题相关概念,求解非线性最小二乘的方法。重点学习 Gauss-Newton 方法, 并介绍 LMF 及 Dogleg 方法。 【教学方法】 教师 PPT 讲解;学生讨论。 【思考与讨论】 略
第三章约束最优化问题的最优性理论【教学目的与要求】了解在等式与不等式条件下约束最优化问题的最优性条件。【教学重点与难点】重点:约束最优化问题的K-T条件、F-J条件难点:约束最优化问题的K-T条件、F-J条件的建立(包括Farkas引理与Gardan引理)【教学内容】1.主要内容(1)一般约束最优化问题(2)约束规范条件(3)约束最优化问题的一阶最优性条件(4)约束最优化问题的二阶最优性条件2.基本概念和知识点一般约束最优化问题相关概念、约束规范条件以及约束最优化问题的一阶、二阶最优性条件。【教学方法】教师PPT讲解:学生讨论。【思考与讨论】略第四章约束最优化问题的求解方法【教学目的与要求】掌握约束最优化问题的Zoutendijk容许方向法、投影梯度法、罚函数法(外罚函数法、内罚函数法、广义乘子法),并能应用于简单实际问题求解。【教学重点与难点】重点:理解约束最优化问题的Zoutendijk容许方向法、投影梯度法、罚函数法建立的不同思想,知道如何去实现算法过程。难点:约束最优化问题的算法实现。【教学内容】第一节Zoutendijk容许方向法1.主要内容Zoutendijk容许方向法2.基本概念和知识点Zoutendijk容许方向法第二节投影梯度法5
5 第三章 约束最优化问题的最优性理论 【教学目的与要求】 了解在等式与不等式条件下约束最优化问题的最优性条件。 【教学重点与难点】 重点: 约束最优化问题的 K-T 条件、F-J 条件 难点: 约束最优化问题的 K-T 条件、F-J 条件的建立(包括 Farkas 引理与 Gardan 引理) 【教学内容】 1. 主要内容 (1)一般约束最优化问题 (2)约束规范条件 (3)约束最优化问题的一阶最优性条件 (4)约束最优化问题的二阶最优性条件 2. 基本概念和知识点 一般约束最优化问题相关概念、约束规范条件以及约束最优化问题的一阶、二阶最优性条 件。 【教学方法】 教师 PPT 讲解;学生讨论。 【思考与讨论】 略 第四章 约束最优化问题的求解方法 【教学目的与要求】 掌握约束最优化问题的 Zoutendijk 容许方向法、投影梯度法、罚函数法(外罚函数法、内 罚函数法、广义乘子法),并能应用于简单实际问题求解。 【教学重点与难点】 重点: 理解约束最优化问题的 Zoutendijk 容许方向法、投影梯度法、罚函数法建立的不同思想, 知道如何去实现算法过程。 难点: 约束最优化问题的算法实现。 【教学内容】 第一节 Zoutendijk 容许方向法 1. 主要内容 Zoutendijk 容许方向法 2. 基本概念和知识点 Zoutendijk 容许方向法 第二节 投影梯度法