上图是CNN,卷积神经网络,经典的深度学习网络模型。
深度学习近几年真是风光无限,各大IT公司都斥巨资投入相关的研究,从事相关研究的研究员也已经不计其数,业界的大神的名字想必你也听出了茧子,深度学习从2006年一路走来发达的故事估计网上也是铺天盖地,本文就不赘述了。
本文主要探讨深度学习本身的价值和弊端。
深度学习的成功之处在于采用了分层训练机制,即逐层初始化后,再进行全局性回归迭代。而分层思想正好与人脑的分层机制保持了一致,从脑神经学的研究成果和深度学习算法的实践都让大家开始认同,分层机制是智能的核心机制之一。虽然数学上大家对于深度学习在传统机器学习领域的进步原因没有理论上的说明,但是从大的方向上,我认为这一步是对的,因为分层机制和自然界的组成模式高度吻合,充分发挥计算效率的最佳办法就是最小化表示,最大化容量。 Read more