- 1.01-PyTorch实战课程简介
- 2. 02 - 002 PyTorch框架发展趋势简介
- 3. 03 - 003 框架安装方法(CPU与GPU版本)
- 4. 04 - 004 PyTorch基本操作
- 5. 05 - 005 自动求导机制
- 6. 06 - 006 线性回归DEMO-数据与参数配置
- 7. 07 - 007 线性回归DEMO-训练回归模型
- 8. 08 - 008 补充:常见tensor格式
- 9. 09 - 009 补充:Hub模块简介
- 10. 10 - 010 气温数据集与任务介绍
- 11. 11 - 011 按建模顺序构建完成网络架构
- 12. 12 - 012 简化代码训练网络模型
- 13. 13 - 013 分类任务概述
- 14. 14 - 014 构建分类网络模型
- 15. 15 - 015 DataSet模块介绍与应用方法
- 16. 16 - 016 卷积神经网络应用领域
- 17. 17 - 017 卷积的作用
- 18. 18 - 018 卷积特征值计算方法
- 19. 19 - 019 得到特征图表示
- 20. 20 - 020 步长与卷积核大小对结果的影响
- 21. 21 - 021 边缘填充方法
- 22. 22 - 022 特征图尺寸计算与参数共享
- 23. 23 - 023 池化层的作用
- 24. 24 - 024 整体网络架构
- 25. 25 - 025 VGG网络架构
- 26. 26 - 026 残差网络Resnet
- 27. 27 - 027 感受野的作用
- 28. 28 - 028 卷积网络参数定义
- 29. 29 - 029 网络流程解读
- 30. 30 - 030 Vision模块功能解读
- 31. 31 - 031 分类任务数据集定义与配置
- 32. 32 - 032 图像增强的作用
- 33. 33 - 033 数据预处理与数据增强模块
- 34. 34 - 034 Batch数据制作
- 35. 35 - 035 迁移学习的目标
- 36. 36 - 036 迁移学习策略
- 37. 37 - 037 加载训练好的网络模型
- 38. 38 - 038 优化器模块配置
- 39. 39 - 039 实现训练模块
- 40. 40 - 040 训练结果与模型保存
- 41. 41 - 041 加载模型对测试数据进行预测
- 42. 42 - 042 额外补充-Resnet论文解读
- 43. 43 - 043 额外补充-Resnet网络架构解读
- 44. 44 - 044 RNN网络架构解读
- 45. 45 - 045 词向量模型通俗解释
- 46. 46 - 046 模型整体框架
- 47. 47 - 047 训练数据构建
- 48. 48 - 048 CBOW与Skip-gram模型
- 49. 49 - 049 负采样方案
- 50. 50 - 050 任务目标与数据简介
- 51. 51 - 051 RNN模型所需输入格式解析
- 52. 52 - 052 项目配置参数设置
- 53. 53 - 053 新闻数据读取与预处理方法
- 54. 54 - 054 LSTM网络模块定义与参数解析
- 55. 55 - 055 训练LSTM文本分类模型
- 56. 56 - 056 Tensorboardx可视化展示模块搭建
- 57. 57 - 057 CNN应用于文本任务原理解析
- 58. 58 - 058 网络模型架构与效果展示
- 59. 59 - 059 对抗生成网络通俗解释
- 60. 60 - 060 GAN网络组成
- 61. 61 - 061 损失函数解释说明
- 62. 62 - 062 数据读取模块
- 63. 63 - 063 生成与判别网络定义
- 64. 64 - 064 CycleGan网络所需数据
- 65. 65 - 065 CycleGan整体网络架构
- 66. 66 - 066 PatchGan判别网络原理
- 67. 67 - 067 Cycle开源项目简介
- 68. 68 - 068 数据读取与预处理操作
- 69. 69 - 069 生成网络模块构造
- 70. 70 - 070 判别网络模块构造
- 71. 71 - 071 损失函数:identity&160;loss计算方法
- 72. 72 - 072 生成与判别损失函数指定
- 73. 73 - 073 额外补充:VISDOM可视化配置
- 74. 74 - 074 OCR文字识别要完成的任务
- 75. 75 - 075 CTPN文字检测网络概述
- 76. 76 - 076 序列网络的作用
- 77. 77 - 077 输出结果含义解析
- 78. 78 - 078 CTPN细节概述
- 79. 79 - 079 CRNN识别网络架构
- 80. 80 - 080 CTC模块的作用
- 81. 81 - 081 OCR文字检测识别项目效果展示
- 82. 82 - 082 OCR文字检测识别项目效果展示
- 83. 83 - 083 检测模块候选框生成
- 84. 84 - 084 候选框标签制作
- 85. 85 - 085 整体网络所需模块
- 86. 86 - 086 网络架构各模块完成的任务解读
- 87. 87 - 087 CRNN识别模块所需数据与标签
- 88. 88 - 088 识别模块网络架构解读
- 89. 89 - 089 3D卷积原理解读
- 90. 90 - 090 UCF101动作识别数据集简介
- 91. 91 - 091 测试效果与项目配置
- 92. 92 - 092 视频数据预处理方法
- 93. 93 - 093 数据Batch制作方法
- 94. 94 - 094 3D卷积网络所涉及模块
- 95. 95 - 095 训练网络模型
- 96. 96 - 096 BERT任务目标概述
- 97. 97 - 097 传统解决方案遇到的问题
- 98. 98 - 098 注意力机制的作用
- 99. 99 - 099 self-attention计算方法
- 100. 100 - 100 特征分配与softmax机制
- 101. 101 - 101 Multi-head的作用
- 102. 102 - 102 位置编码与多层堆叠
- 103. 103 - 103 transformer整体架构梳理
- 104. 104 - 104 BERT模型训练方法
- 105. 105 - 105 训练实例
- 106. 106 - 106 BERT开源项目简介
- 107. 107 - 107 项目参数配置
- 108. 108 - 108 数据读取模块
- 109. 109 - 109 数据预处理模块
- 110. 110 - 110 tfrecord制作
- 111. 111 - 111 Embedding层的作用
- 112. 112 - 112 加入额外编码特征
- 113. 113 - 113 加入位置编码特征
- 114. 114 - 114 mask机制
- 115. 115 - 115 构建QKV矩阵
- 116. 116 - 116 完成Transformer模块构建
- 117. 117 - 117 训练BERT模型
- 118. 118 - 118 项目配置与环境概述
- 119. 119 - 119 数据读取与预处理
- 120. 120 - 120 网络结构定义
- 121. 121 - 121 训练网络模型
- 122. 122 - 122 项目模板各模块概述
- 123. 123 - 123 各模块配置参数解析
- 124. 124 - 124 数据读取与预处理模块功能解读
- 125. 125 - 125 模型架构模块
- 126. 126 - 126 训练模块功能
- 127. 127 - 127 训练结果可视化展示模块
- 128. 128 - 128 模块应用与BenckMark解读
《Python深度学习》是软件工程专业中地一门深度学习基础课程,该课程以深度学习框架为基础,介绍了机器学习地基础知识与常用方法,以实例地方式学习机器学习操作地原理与其在深度学习框架下地实践步骤。主要内容包含深度学习基础知识,深度学习框架与其对比,机器学习基础知识,深度学习框架(以PyTorch为例)基础,Logistic回归,多层感知器,卷积神经网络与计算机视觉,神经网络与自然语言处理。并通过8个深度学习实例地学习,帮助学生更好地掌握深度学习知识,做到理论与实践相结合,方法与应用相结合。本课程除要求学生掌握以上深度学习知识,更重要地是要求学生掌握理论与实践结合地学习方式,为更深入地学习打下良好地基础。
课程大纲
第一章 绪论
1.1 从专家系统到机器学习
1.2 从传统机器学习到深度学习
1.3 深度学习的能与不能
1.4 pytorch 基础
第二章 神经网络基础
2.1 浅层神经网络:生物神经元到单层感知器,多层感知器,反向传播和梯度消失
2.2 神经网络到深度学习:逐层预训练,自编码器和受限玻尔兹曼机
2.3 pytorch 编程练习
第三章 卷积神经网络
3.1 卷积神经网络 VS 传统神经网络
3.2 基本组成结构:卷积、池化、全连接
3.3 典型结构:AlexNet, ZFNet, VGG, GoogleNet, ResNet
3.4 pytorch 代码讲解
第四章 循环神经网络
4.1 循环神经网络 VS 卷积神经网络
4.2 循环神经网络的基本结构:深度RNN,双向RNN,BPTT算法
4.3 循环神经网络的变种:LSTM,Grid-LSTM,GRU
4.4 扩展: 解决RNN梯度消失的办法,基于注意力机制的RNN
第五章 目标检测
5.1 基本概念,评测标准,数据集,国际竞赛
5.2 准备工作:滑动窗口、目标候选生成、难样本挖掘、非极大值抑制、检测框回归
5.3 目标检测两阶段方法:R-CNN, SPP-Net, Fast R-CNN, Faster R-CNN, FPN, RFCN
5.4 目标检测单阶段方法: YOLO, SSD, Retina Net
5.5 十行代码实现目标检测
第六章 生成式对抗网络(GAN)基础
6.1 基础:图像生成、修复、风格迁移、文字生成图片
6.2 理论基础:模型和目标函数,全局最优解,pytorch 实现
6.3 条件生成式对抗网络(Conditional GAN)与 pytorch 实现
6.4 深度卷积生成式对抗网络(Deep Convolutional GAN,DCGAN)与 pytorch 实现
6.5 Wasserstein GAN (WGAN)与 pytorch 实现
第七章 生成对抗网络GAN前沿
7.1 ProgressiveGAN、Spectral Normalization GAN、Self-Attention GAN
7.2 以图像翻译为例,用 pytorch 实现 Pix2pix
7.3 以图像翻译为例,用 pytorch 实现 CycleGAN
第八章 前沿技术
8.1 深度强化学习:策略梯度法、Deep Q-Network、Actor-Critic方法
8.2 迁移学习:种类及代表性方法,域自适应
8.3 图卷积神经网络
8.4 深度学习可视化及解释