Fork me on GitHub

神经网络复杂度

深度学习-神经网络NN的复杂度

NN的复杂度一般是用NN层数和参数的个数来表示的。

上面是一个简单的只包含一个隐藏层的神经网络:

  • 输入层:3个节点
  • 隐藏层:4个节点;输入层和输出层之间的所有层数都叫隐藏层
  • 输出层:2中节点

输入层

输入层的功能仅仅是传入数据,一般不计入神经网络的层数计算中。

空间复杂度

神经网络层数

NN的层数=所有隐藏层+输出层。上面就是1+1=2层

参数计算

NN的参数 = 总共的w + 总共的b

图中的第一层加上第二层的参数:上面的结果为: (3*4 + 4 ) + (4*2+2) = 26

时间复杂度

指的是模型的运算次数,只需要看乘加运算的次数。上面的结果可表示为:3*4 + 4*2

本文标题:神经网络复杂度

发布时间:2022年10月20日 - 23:10

原始链接:http://www.renpeter.cn/2022/10/20/%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E5%A4%8D%E6%9D%82%E5%BA%A6.html

许可协议: 署名-非商业性使用-禁止演绎 4.0 国际 转载请保留原文链接及作者。

Coffee or Tea