[深度思考]·为什么CNN是同步(并行)而RNN是异步(串行)的呢?

CNN与RNN都是采用parameter sharing(参数共享)单元,滑动遍历的结构,为什么CNN是同步(并行)而RNN是异步(串行)的呢?

小宋是呢

为什么CNN是同步(并行)而RNN是异步(串行)的呢?

个人网站--> http://www.yansongsong.cn/

1.问题引出


CNN与RNN都是采用parameter sharing(参数共享)单元,滑动遍历的结构,为什么CNN是同步(并行)而RNN是异步(串行)的呢?


2.个人愚见:


CNN,RNN共享单元和滑动结构类似,区别在于RNN具有记忆功能,被遍历的单元具有因果联系作用(记忆信息传送),上一时刻隐层的状态参与到了这个时刻的计算过程中,这句话的举例说明就是第一个单元计算的结果会作为第二个单元输入的一部分,所以,当前单元必须等上一单元计算结束,有多少单元就需要计算多少次。。
而CNN同一层次单元没有因果关系都是等价的,这样就可以依据单元核直接复制出所需所有单元核(参数相同),然后采用矩阵并行运算,只需计算一次。。


3.更多思考:


RNN是否能设计成并行模型,同时保留记忆功能?
CNN可否添加依赖作用,不改变并行操作?
欢迎批评补充。。


评论列表

暂无评论

新的评论

上一篇:
下一篇: