User:VikingDBY/sandbox

Deep Learning 概述
深度学习（Deep Learning）的概念是2006年左右由Geoffrey Hinton等人提出来的，主要通过神经网络（Neural Network， NN）来模拟人的大脑的学习过程，希望通过模仿人的大脑的多层抽象机制来实现对数据（画像、语音及文本等）的抽象表达，将features learning和classifier整合到了一个学习框架中，减少了人工/人为在设计features中的工作. “深度学习”里面的深度（Deep）指的就是神经网络多层结构. 深度学习的基本思想就是，在一个n层的NN中，对每一层的输出（Output）与这一层的输入（Input）“相等”. 这个地方“相等”有两个含义在里面：第一个是说Output和Input不是在绝对形式上的相等，而是在抽象意义上的相等，举个不太恰当的例子，比如说对“交通工具”这个概念上，Input是“可以驾驶的，四个轮子”，Output是“车”，这样虽然对两者的描述不一致，但是我们都可以理解为“交通工具”了；关于“相等”的另外一点指的是限制的约束的程度，比如说是不会造成歧义的完全“相等”还是有适当宽松条件的“相等”. 其实上面的最后一点中的这两个思想，也是对应了Deep Learning中两种方法：AutoEncoder和Sparse Coding，除去这两者外，还有一个很常用的方法就是Restrict Boltzmann Machine （RBM）. 具体的细节问题，在这里面暂时不讨论，在后面学习的时候会单独讨论到这个问题.

相关资料总结
深度学习(Deep Learning，DL)的相关资料总结

0   第一人（提出者）

由加拿大多伦多大学计算机系(Department of Computer Science, University of Toronto) 的教授Geoffrey E. Hinton于2006年提出.

其个人网站是：

http://www.cs.toronto.edu/~hinton/

science上的那篇论文：

http://www.sciencemag.org/content/313/5786/504.full

1 中文的资料（不含论文）：

[1] 百度百科

http://baike.baidu.com/view/9964678.htm

[2] CSDN博客-，机器学习——深度学习(Deep Learning)

http://blog.csdn.net/abcjennifer/article/details/7826917

[3] 深度学习(Deep Learning)综述

http://www.cnblogs.com/ysjxw/archive/2011/10/08/2201819.html

[4]“深度学习”是人工智能的一场革命吗？

http://article.yeeyan.org/view/371738/341235

[5] 科学家称，深度学习是硅谷科技企业的未来

http://www.36kr.com/p/175229.html

[6] 深度学习(Deep Learning)算法简介

http://hi.baidu.com/yimizizizi/item/4d32615787772a05e6c4a5e1

[7]  程序员杂志201302:深度学习——机器学习的新浪潮

http://blog.csdn.net/datoubo/article/details/8577366

[8]机器学习、大数据、深度学习、数据挖掘、统计、决策和风险分析、概率和模糊逻辑的常见问题解答

http://blog.csdn.net/yihaizhiyan/article/details/8266045

[9]  百度深度学习研究院

[10] Deep Learning 教程翻译

http://blog.sina.com.cn/s/blog_46d0a3930101h6nf.html

[11] Deep Learning（深度学习）学习笔记整理系列

http://blog.csdn.net/zouxy09/article/details/8775360

[13] Deep learning 非常好的中文学习笔记

http://www.cnblogs.com/tornadomeet/archive/2013/03/14/2959138.html

[14] Deep Learning入门之路一、二

http://blog.sina.com.cn/s/blog_9b75a293010176km.html

http://blog.sina.com.cn/s/blog_9b75a29301017dd5.html

[15]  UFLDL教程

http://deeplearning.stanford.edu/wiki/

[16] 机器学习前沿热点–Deep Learning

http://blog.sciencenet.cn/blog-315535-663215.html

[17] UFLDL教程 （中文版）

http://deeplearning.stanford.edu/wiki/index.php/UFLDL%E6%95%99%E7%A8%8B

[18] Deep Learning学习（开篇）

http://www.cnblogs.com/JackOne/archive/2013/02/19/DeepLearning-FirstBoold.html

[19] 深度学习： 推进人工智能的梦想

http://www.csdn.net/article/2013-05-29/2815479

2 英文的资料（不含论文）：

http://deeplearning.net/ (内容很多很丰富)

http://en.wikipedia.org/wiki/Deep_learning

http://cs.nyu.edu/~fergus/tutorials/deep_learning_cvpr12/

http://ufldl.stanford.edu/wiki/index.php/UFLDL_Tutorial （很好）

http://www.iro.umontreal.ca/~pift6266/H10/notes/deepintro.html

http://reading-group.net.technion.ac.il/2012/11/27/deep-learning-introduction/

http://www.socher.org/index.php/DeepLearningTutorial/DeepLearningTutorial

Reading List：

http://deeplearning.net/reading-list/

Learning Deep Architectures for AI：

http://ishare.iask.sina.com.cn/f/36110040.html

3 论文（中文和英文）：

[1] 论浅层学习与深度学习

[2] 深度学习研究综述

[3] 深度学习结构和算法比较分析

[4]  英文的看Geoffrey Hinton和Andrew Ng的论文就够了：

http://www.cs.toronto.edu/~hinton/papers.html

http://ai.stanford.edu/~ang/papers.php