国内互联网上关于deeplearning.net上的Deep Learning Tutorial的翻译有很多,但很零散,并且没有人有效地把这些组织起来,本文对这些进行了整理,带有>前往的都是已经找到的对应的翻译文章,有些是我自己写的,其他一些还没有的,我会自己补充上。
前置阅读
Machine Learning for AI an introduction to Deep Learning algorithms
Learning Deep Architectures for AI (Foundations & Trends in Machine Learning, 2009).
正式教程
准备工作 – 它介绍了符号,本教程中使用的数据集(可下载),以及对随机梯度下降法所做的优化。 > 前往
纯监督学习算法,按顺序阅读:
- Logistic Regression – 简单使用Theano > 前往
- Multilayer perceptron – 介绍layer >前往
- Deep Convolutional Network – LeNet5的简化版本 >前往
无监督和半监督学习算法,阅读顺序无要求:(自编码器与RBM/DBN议题相互独立):
- Auto Encoders, Denoising Autoencoders, 自编码器,去噪自编码器 – 自编码器描述 >前往
- Stacked Denoising Auto-Encoders,堆栈式自编码器 – 进行深度网络无监督预训练的简单步骤 >前往
- Restricted Boltzmann Machines,受限玻尔兹曼机 -单层生成式RBM模型
- Deep Belief Networks – 深度信念网络 -先进行栈式RBMs的无监督生成式预训练再进行有监督微调
面向mcRBM模型构建, 关于从能量模型采样的新教程:
- HMC Sampling,混合蒙特卡罗采样 -混合(又名汉密尔顿)蒙特卡洛采样 scan()
面向收缩自编码器的构建教程, 目前已经有了代码:
- Contractive auto-encoders code,收缩自编码器代码 – 代码中有基础文档
带有词语嵌入和上下文窗口的Recurrent neural networks
- Semantic Parsing of Speech using Recurrent Net
用于语义分析的LSTM:
- LSTM network
基于能量的recurrent neural network (RNN-RBM)
- Modeling and generating sequences of polyphonic music,和弦音乐序列的建模与生成