【Transformer】小白入门指南

目次
1、简介
2、Transformer
办理题目
技能概览
核心构成
自留意力机制（Self-Attention Mechanism）
多头留意力机制（Multi-Head Attention）
前馈神经网络（Feed-Forward Neural Network）
位置编码（Positional Encoding）
残差毗连与尺度化
框架熟悉
1. 输入输出
2. Encoder
3. Decoder
4. 练习过程
5. Position encoding
示例图解Transformer
1、从团体宏观来明白 Transformer
2、从细节来明白 Transformer
2.1 Transformer 的输入
2.2 Encoder(编码器)
3、 Self-Attention 团体明白
4、Self-Attention 的细节
4.1 盘算Query 向量，Key 向量，Value 向量
4.2 盘算 Attention Score（留意力分数）
5、利用矩阵盘算 Self-Attention
6、多头留意力机制（multi-head attention）
7、代码实现矩阵盘算 Attention
7.1 利用 PyTorch 库的实现
7.2 手动实现盘算 Attention
7.3 关键代码
8、利用位置编码来表现序列的次序
9、残差毗连
10、Decoder（解码器）
11、 末了的线性层和 Softmax 层
12、 Transformer 的练习过程
13、 丧失函数
应用场景
天然语言处置惩罚（NLP）中的应用
呆板翻译
情绪分析
文本天生与对话体系
文本择要
文天职类
定名实体辨认
盘算机视觉（CV）中的应用
Vision Transformer (ViT)
图像分类与物体检测
天生对抗网络（GANs）
音频处置惩罚中的应用
语音辨认
音乐天生
语言人辨认
声纹辨认
跨模态学习中的应用
视觉与语言的团结
多模态天生模子
时间序列分析
强化学习
将来推测
优缺点
盘算资源斲丧
模子表明性
小样本学习
跨范畴融合
3、学习资源

---

1、简介

Transformer是开端于 NLP范畴，然后在图像、视频、声音等范畴都得到了广泛应用的底子架构，是继MLP、CNN、RNN’后的公认的第四大底子模子布局。
Transformer技能依附其杰出的表现和广泛的应用远景，已经成为了呆板学习范畴的一个关键技能。自从2017年Google提出《Attention is All You Need》一文以来，Transformer架构的出现彻底改变了呆板学习和深度学习的格局，尤其是在处置惩罚语言模子、天生模子以及多模态学习等范畴，Transformer险些成为了不可或缺的技能基石。之前不绝也没详细地举行学习和相识，本次举行全面的图解，进而对transformer有一个简朴的熟悉。
<