现在有一个数据集DX(dataset, 也可以叫datapoints)，每个数据也称为数据点。
我们假定这个样本受某种神秘力量操控，但是我们也无从知道这些神秘力量是什么？那么我们假定这股神秘力量有n个，起名字叫\(power_1, power_2,…, power_n\)吧，他们的大小分别是\(z_1, z_2, …, z_n\)，称之为神秘变量表示成一个向量就是
z也起个名字叫神秘组合。
一言以蔽之：神秘变量代表了神秘力量的神秘组合关系。
用正经的话说就是：隐变量(latent variable)代表了隐因子(latent factor)的组合关系。 Read more
本文主要提出一种智能任务分类方法，希望未来可以有利于智能系统的设计和评估。
本稿属于2016年06月24日初稿，后续会不断修订更新，转载须注明出处。
邓范鑫
为了实现AI-Complete(AI-Hard，AI完全)问题，我们需要一些测量方法，最著名的测量方法当属图灵测试。一个可以解决AI完全问题的机器应该在必要辅助的设备帮助下，可以完成人类能够完全的所有任务，亦即它像人类一样的智能(Intelligent)，我们便称其为强人工智能（True AI或Strong AI）。这些人类可以完成的任务，我们称之为人工智能任务，简称AI任务，AI任务有不同的难易程度，所谓难易是基于所需要的智力资源的多少，一般呈现到科学技术领域，表现出来的是越容易模拟实现的AI任务越简单，越难于模拟实现的任务越困难，目前还有很多AI任务，除人类以外没有任何对象可以完成。 Read more
本文将分析和讨论人类智能应对维度灾难的解决方案，应对维度灾难的核心解决方案是降维，那么如何降维，降维的信息如何利用从而来完成智能任务呢？降维作为一个通用的处理原则，它反映在智能处理的各个方面，下面让我为您一一道来。
维度灾难是传统算法在完成智能任务时面对的巨大挑战，而在自然界，生物所面临的世界是极度复杂的，理论上的输入维度可以无穷大，面对维度灾难，具有强烈适应性的生物一般都具有自己的处理方案，随着处理方式的简单到复杂反映了智力的从低到高，人类之所以成为万物之首，究其原因是在应对复杂局面时有更高级的应对办法，这就是高级智能的结果。通过分析这些适者生存的各类生物的生存能力，我们会发现，在整个生物链上，越是低等的动物，他们的脑越小，意味着能够处理的信息能力有限，因为在面对这个复杂的世界时，会尽力减少输入的信息量，只选择对自己最有价值的信息，如参考资料[1]中提到的，不真实性问题就是对降维的观察，想象一下带有触角的昆虫，触角将整个世界的可能输入转变为两个触角的探测，这远比视觉的输入维度要低的多。当然，并不是所有的感觉输入都是降维的，听觉系统就是一个典型的升维操作，通过耳蜗分频使得大脑可以处理复杂的序列信息，升维的目的在于提高输入信息的丰富性，这是因为高维信息隐藏在低维表示中，值得一提的是，大脑皮层似乎没有升维能力，必须借助特定的器官才行。
上图是CNN，卷积神经网络，经典的深度学习网络模型。
深度学习近几年真是风光无限，各大IT公司都斥巨资投入相关的研究，从事相关研究的研究员也已经不计其数，业界的大神的名字想必你也听出了茧子，深度学习从2006年一路走来发达的故事估计网上也是铺天盖地，本文就不赘述了。
本文主要探讨深度学习本身的价值和弊端。
深度学习的成功之处在于采用了分层训练机制，即逐层初始化后，再进行全局性回归迭代。而分层思想正好与人脑的分层机制保持了一致，从脑神经学的研究成果和深度学习算法的实践都让大家开始认同，分层机制是智能的核心机制之一。虽然数学上大家对于深度学习在传统机器学习领域的进步原因没有理论上的说明，但是从大的方向上，我认为这一步是对的，因为分层机制和自然界的组成模式高度吻合，充分发挥计算效率的最佳办法就是最小化表示，最大化容量。 Read more