深度学习入门课程

本站原创出品

从基础原理到前沿大模型，系统学习深度学习核心算法。课程采用数形结合的方式，结合直观图示、数学推导与代码实践，深入讲解算法背后的设计动机、核心原理与实现细节。

深度学习发展史与主流框架介绍

深度学习入门课程导读（必读）

1.1 深度学习发展阶段：感知机、反向传播到Transformer与GPT演进

1.2 深度学习关键人物：AI三巨头与图灵、明斯基等代表人物

1.3 深度学习框架发展史：PyTorch、TensorFlow与Caffe、Keras演进

深度学习环境配置与 CUDA 安装

2.1 深度学习开发环境体系结构：CUDA、cuDNN 与框架依赖

2.2 深度学习环境安装：CUDA、PyTorch 与依赖配置教程

2.3 深度学习开发环境安装配置：Jupyter Notebook 与 PyCharm 使用教程

Softmax 回归、反向传播与激活函数

3.1 深度学习线性回归入门：多项式回归与神经网络建模基础

3.2 线性回归简洁实现：PyTorch 回归模型快速入门

3.3 反向传播与梯度下降：梯度消失与爆炸的解决方法

3.4 从零实现回归模型：线性回归代码与训练流程

3.5 Softmax回归原理：从逻辑回归到多分类与深度学习特征抽象

3.6 Softmax分类实战：PyTorch DataLoader 随机梯度下降与小批量梯度下降

3.7 从零实现MNIST分类：手写体识别3层神经网络代码实战

3.8 回归模型评估指标：MSE、RMSE 与 R2

3.9 分类模型评估指标：准确率、召回率与F-score

3.10 过拟合与正则化：L2正则化与泛化误差分析

3.11 深度学习超参数：交叉验证与调参方法

3.12 激活函数原理：Sigmoid、Tanh、ReLU与LeakyReLU

3.13 多标签分类损失函数：Sigmoid交叉熵与绝对匹配率评估

CNN 教程：卷积神经网络原理与经典模型

4.1 卷积神经网络基础：图像不变性与卷积操作原理

4.2 卷积计算过程：卷积核、多卷积、步长、可视野与特征提取原理

4.3 卷积和池化：CNN 中 padding 与 pooling 的作用

4.4 LeNet5网络：经典卷积神经网络结构入门

4.5 AlexNet网络：ReLU、Dropout与GPU训练的设计思想

4.6 VGG网络：3×3卷积核堆叠与VGG-16、19结构详解

4.7 NIN网络：MLP卷积与全局平均池化原理

4.8 GoogLeNet网络：Inception模块与1×1卷积降维原理

4.9 ResNet原理：残差结构、退化问题与网络实现

4.10 DenseNet网络：密集连接、密集块与特征复用原理

迁移学习、模型保存与多 GPU 训练

5.1 深度学习参数及日志管理：ModelConfig配置类与logging模块实战

5.3 PyTorch模型保存与加载：模型复用与权重管理

5.4 迁移学习教程：预训练模型微调与图像分类实战

5.5 torchvision预训练模型：ResNet18微调与CIFAR10分类实战

5.7 训练数据预处理与缓存：Python修饰器与数据加载优化

BatchNorm、学习率调度与 Adam 优化器

6.1 Transformers学习率调度器：constant、linear、cosine与warmup策略实战

6.2 梯度裁剪：训练不稳定时如何控制梯度爆炸

6.3 BatchNorm原理：批归一化为什么能加速训练

6.4 LayerNorm原理：层归一化与 BatchNorm 的区别

6.5 组归一化 GroupNorm：原理、公式与 BatchNorm 对比

循环神经网络：RNN、LSTM 与 GRU 原理

7.1 RNN原理：循环神经网络结构与BPTT反向传播算法

7.2 时序数据建模：时序图片与时序文本的RNN分类实战

7.3 LSTM原理：长短期记忆网络与门控机制详解

7.4 GRU原理：门控循环单元与 RNN 改进方法

7.5 BiRNN原理：双向循环神经网络结构与序列标注

7.6 CharRNN教程：基于字符级序列的生成模型

TextCNN、TextRNN、ConvLSTM 与 3DCNN 教程

8.1 TextCNN文本分类：卷积神经网络做文本建模

8.2 TextRNN原理：循环神经网络做文本分类

8.3 CNN-RNN模型：卷积与循环网络融合方法

Word2Vec、GloVe、Seq2Seq 与注意力机制

9.1 自然语言处理基础：NLP 任务、流程与建模对象

9.2 Word2Vec原理：词向量训练与语义表示方法

9.3 Word2Vec训练与使用：CBOW、Skip-gram 与词向量应用

9.4 GloVe词向量：全局统计词向量建模方法

9.5 词向量微调使用：预训练词向量在下游任务中的应用

9.6 fastText原理：高效文本分类与词向量建模

9.7 Seq2Seq教程：编码器解码器结构与序列生成

9.8 序列模型评价指标：BLEU 等 NLP 任务评估方法

9.9 神经机器翻译 NMT：Seq2Seq 在翻译任务中的应用

9.10 注意力机制原理：Query-Key-Value 权重计算与Seq2Seq应用

9.11 含注意力的NMT网络：Bahdanau与Luong注意力实现

9.12 含注意力的RNN网络：RNN 与注意力融合方法

Transformer、BERT、GPT 与 ChatGPT

10.2 Transformer原理：自注意力、多头注意力与位置编码

10.3 Transformer结构：编码器解码器整体架构解析

10.4 Transformer实现：从模块到代码的搭建过程

10.5 Transformer对联模型：序列生成实战示例

10.6 BERT原理：双向编码器预训练模型解析

10.7 从零实现BERT：预训练模型代码与训练流程

10.8 BERT文本分类：下游任务微调实战

10.9 BERT问题选择模型：句对分类与匹配任务

10.10 BERT问答模型：阅读理解任务建模方法