文章目录
- 一、图像分类数学知识前置
-
- 1.矩阵加法运算
-
- 1、理论
- 2、代码实现
- 2.矩阵和数乘法运算
-
- 1、理论
- 2、代码实现
- 3.矩阵乘法运算
-
- 1、理论
- 2、代码实现
- 4.算子
- 5.卷积
- 6.求导法则
- 7.反向传播
- 8.MNIST
- 9.Imagenet
- 10.批归一化(Batch Normalization)Batch normalization applies a transformation that maintains the mean output close to 0 and the output standard deviation close to 1.
- 11.感受野
- 几篇参考文献
- 二、图像分类
-
- 1.图像分类竞赛全流程工具
- 2、图形处理
-
- 1.EDA(Exploratory Data Analysis)与数据预处理
- 2.图像标准化与归一化
- 3、Baseline选择
- 4、模型训练
- 5、预测模型
- https://aistudio.baidu.com/aistudio/course/introduce/11939irectly=1&shared=1
一、图像分类数学知识前置
1.矩阵加法运算
1、理论
I2 = I1 + b
1.1 如果I1和b维度一致时,结果为两个矩阵对应项相加。
1.2 如果I1和b维度不一致,但是满足一定条件,亦可进行加法计算。
假设I1的矩阵形状为shape_I1=(h,w,c),那么在b的矩阵形状shape_b为shape_I1的某个切片相等时,I1和b矩阵可以进行“广播”相加。
2、代码实现
2.矩阵和数乘法运算
1、理论
I3 = a * I1
I1各个元素分别乘以a
2、代码实现
3.矩阵乘法运算
1、理论
I2 = I1 * A
- 二维矩阵
I1的r行向量与A的c列向量的点积作为I3的(r,c)元素 - 多维矩阵
所得结果的后两维的shape与二维矩阵的计算方式一致。不同的是高维度(3位以上)的尺寸大小的计算方式-取较大的尺寸。作为多维矩阵,数据还是保持在后两维中,高维度只是数据的排列方式的定义。本质上,高维矩阵的乘法还是二维矩阵之间的乘法,再加上排列方法的保持,当高维尺寸不同时,只要可以“广播”,就依然可以计算。
譬如:
2.1 I1的shape为 (c,n,s),A的shape为(c,s,m)时,I2的shape为(c,n,m).
结果shape的计算过程:I1的后两维shape为(n,s), A的后两维shape为(s,m),类似于二维矩阵乘法所得结果的后两维shape为(n,m), 高维度的尺寸取c。
2.2 I1的shape为 (n,c,h,s),A的shape为(1,1,s,w)时,I2的shape为(n,c,h,w).
结果shape的计算过程:I1的后两维shape为(h,s), A的后两维shape为(s,m),类似于二维矩阵乘法所得结果的后两维shape为(h,w), 高维度的尺寸取(n,c)和(1,1)中尺寸较大值(n,c)。
2、代码实现
声明:本站部分文章及图片源自用户投稿,如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢!