类人智能的几个启示

3352153404_4bbb97fcd2

一、“勿忘有机组成”

很多人可能还记得哲学课中的一个关键词“有机组成部分”,意指很多部分通过比较恰当的方式组成在一起,就会提供各个部分无法提供的功能,比如一辆汽车,缺少一些核心部件,就无法实现他的功能,比如轮子,方向盘、发动机,等等。
在处理人工智能问题时,同样需要重点关注这个基本原则,这个原则提醒我们,很多时候可能我们离成功只差一步,我们可能还缺少一个关键部件,比如,有了自稀疏编码器、有了层次化结构模型、但缺少attetion machanism,即注意力机制,可能也会无法实现我们想要的智能,从另一个角度,很多东西可能又不是必要的,比如神经支撑物、蛋白质、血液。

二、小样本自发现

最小智能系统一个最大的特点就是基于小样本空间的自主学习能力,而目前的大部分机器学习算法都意图在大样本上进行训练以获得好的效果,在小样本上的效果十分不好。基于小样本的自主学习能力是值得使用的规范与约束。

三、精巧的结构

通过大量单一可重复模块的使用来解决智能问题可能是一厢情愿,比如RNN、DNN都是简单的网络模型,仅在微观层面指定了基本元素,并重复使用,而实际上一种结构化的设计可能是十分重要的,就好比单纯的叠加原子,可能没有办法制造一个汽车,你可以需要先制造轮子,轮子的构成又可以细分下去,类人智能也是这样,多种异构组件可能是必要的,通过多种异构组件有机的组合才能发挥出智能,这一点与原则一相互辉映。

四、感知的归一化

无论视觉还是听觉还是触觉,最终在脑中都是一样的神经元firing,理论上,中枢神经是不知道这个神经元传递的是视觉信息还是听觉信息,每种输入都根据其自身的特点,通过统一的视觉皮层算法,进行特征抽取,越复杂的信息越可能需要层层向上处理直至用光整个大脑皮层。听觉与视觉就可能是相互争抢脑区的,但是由于视觉处理需要的神经元更多,所以占据了相当大的区域,对于天生盲人来说,视觉皮层由于空闲而被听觉处理所利用,使得他们具有更加高级的听觉感知能力,超越常人。所以,整个新大脑皮层都是在竭尽所能的自动提取和存储特征。但需要指出的是不是整个大脑都用了统一算法,原则一告诉我们,大脑可能是若干的有机组成部分,既不是单一到只有一种算法,也不是复杂度每个神经元都精心设计,他可能是集中基础模块、若干个宏观组成,以及几种通用算法的结果。

五、不可忽视的逻辑思维

归纳演绎能力是传统机器学习领域容易忽略的,而被机器推理学所研究,两者似乎是断裂的,但神经网络的自动归纳推理能力,逻辑思维能力是需要加以重视的,归纳在人脑探索世界认知世界的过程中扮演了极其重要甚至最重要的角色。

六、自组织与回归

回归是数理统计的手段,可以较好地还原统计本身的特性,但是不具备实时性,因而回归训练出来的网络不能进行有效地在线学习,要实现在线持续学习,回归到人脑模型,利用自组织过程来进行学习是一种值得考虑的手段。当然,对于使用回归进行训练出来的网络一般来说要更加安全,回归更像是硬编码,在原理清楚的情况下,使用回归有可能是最高效安全的手段。对于持续性学习系统来说,回归可能没有自组织更加应付自如。