深度学习方法及应用
M010804035
课程基本信息
课程编号
M010804035
课程中文名称
深度学习方法及应用
课程英文名称
Deep Learning Methods and Applications
课程性质
专业选修课
课程类别
硕博通用
开课学院
机电工程学院
允许外学院选课
是
考核方式
课堂闭卷
上课语言
中文
其他课程
课程中文简介
课程围绕基于python进行深度神经网络的建模和讲解,从深度学习的发展出发,引入深度神经网络的概念,对于不同框架下神经网络的搭建、调优、训练进行介绍,从而解决手写数字识别、图片分类、目标检测等任务。在学习理解卷积神经网络和循环神经网络等经典模型基础上,结合课题进行项目实战,从而达到理论学习、实践学习相互融合的效果。
课程英文简介
The course focuses on the modeling and explanation of deep neural network based on python, introduces the concept of deep neural network from the development of deep learning, and introduces the construction, optimization and training of neural network under different frameworks, so as to solve the tasks of handwritten numeral recognition, picture classification and target detection. On the basis of learning and understanding the classic models such as convolution neural network and cyclic neural network, and combining with the subject, we can carry out project practice, so as to achieve the effect of integrating theory learning and practice learning.
课程学时安排
教学学时
30
实验学时
0
实践学时
0
周学时
0
其他学时
0
自学学时
0
上课周数
0
总学时
32
课程学分
2.0
教学目标
本课程面向仪器科学与技术学科系统介绍了深度学习的基本概念及其应用,阐述了深度学习相关算法与基本原理。通过本课程的学习,旨在培养学生拥有对深度学习新理论、新方法的把握能力和研究能力及正确解决工程复杂控制问题的方法。
预备知识要求
高等数学、概率论、线性代数等
主讲教师信息
教师姓名
刘春阳
学历
博士研究生
教师工号
9903754
联系电话
教师职务
副教授
邮箱地址
辅讲教师信息
教师工号
姓名
职务
学历
联系电话
邮箱地址
辅讲教师
参考书目
《深度学习入门-基于Python的理论与实践》,斋藤康毅著,陆宇杰译,人民邮电出版社,2018 Python深度学习》,弗朗索瓦?肖莱著,张亮主编,人民邮电出版社,2018
教学日历
第一章 绪论 (2学时) 神经网络发展历史、深度学习的历史趋势。 第二章 应用数学与机器学习基础 (8学时) 线性代数、概率与信息论,数值计算方法,机器学习基础,学习算法,最大似然估计,贝叶斯统计,监督学习算法、无监督学习算法,随机梯度下降算法,深度学习面临的挑战。 第三章 深度前馈网络 (3学时) 基于梯度的学习、隐藏单元、架构设计、反向传播和其它的微分方法。 第四章 深度学习中的正则化 (3学时) 参数范数惩罚、作为约束的范数惩罚、正则化和欠约束问题,数据集增强、噪声鲁棒性、半监督学习、多任务学习、提前终止、参数绑定和参数共享、稀疏表示,对抗训练。 第五章 深度学习中的优化问题 (4学时) 学习和纯优化方法的差异、神经网络优化中的挑战、基本算法、参数初始化策略,自适应学习率算法、二阶近似方法、优化策略和元算法。 第六章 卷积网络 (4学时) 卷积运算原理、池化,卷积与池化作为先验概率的方法,基本卷积函数的变体,结构化输出,数据类型,高效的卷积算法,随机或无监督的特征,卷积网络的神经科学基础,卷积网络与深度学习的历史。 第七章 序列建模:循环和递归网络 (4学时) 展开计算图,循环神经网络,双向RNN,基于编码-解码的序列到序列框架,深度循环网络,递归神经网络,长期依赖的挑战、回声状态网络,长短期记忆和其它门控RNN,优化长期依赖。 第八章 深度学习应用 (4学时) 大规模深度学习、深度学习与机器视觉,语音识别、自然语言处理、推荐系统、知识表示与推理系统。
教材
《深度学习》,Ian Goodfellow 、Yoshua Bengio和Aaron Courville著,赵申剑等译,人民邮电出版社,2017