正向传播算法,也叫前向传播算法,顾名思义,是由前往后进行的一个算法。
基本介绍
- 中文名:正向传播算法
- 外文名:Forward propagation algorithm
介绍
最开始,我们会初始化一组
的取值,并且选定一个激活函式,为了后面的方便,我们假设选定sigmoid函式作为激活函式,其函式形式为:



有了联结权重
和激活函式
之后,就可以由前往后计算,依次算出所有的
值,
值,最终算出输出层的
值。这就是前向传播算法。





DNN前向传播算法
有了上一节的数学推导,DNN的前向传播算法也就不难了。所谓的DNN的前向传播算法也就是利用我们的若干个权重係数矩阵
,偏倚向量
来和输入值向量
。进行一系列线性运算和激活运算,从输入层开始,一层层的向后计算,一直到运算到输出层,得到输出结果为值。



输入: 总层数
,所有隐藏层和输出层对应的矩阵
,偏倚向量
,输入值向量
.




输出:输出层的输出

1) 初始化

2) for
to
, 计算:
,最后的结果即为输出
。



