本文主要探讨完形与世界模型的关系。

格式塔心理学引入了心理学的动力学视角，启发我们从一个全新的角度看待世界模型的构建，自我、感官、旧脑等综合作用下会产生不同的行为环境的内容。
考卡夫向我们展示了一系列实验，表明人在解构感知信息时会倾向于简单性、相似性、闭合性等一系列完形原则，虽然其大作《格式塔心理学原理》中并未探讨成因，但在生理-心理联合框架上下足了理论功夫。 Read more

本文粗浅地讨论我对一些重要概念的理解：记忆 理解 概念 特征世界 识别 比较 归纳 预测 激励 推理 视觉推理 陌生事物 新鲜感 发现异常 生成网络 尝试 想象 动机 目标驱动 脑中图灵机 盲源分离 目标达成 世界模型 回忆 注意力 感知 判断 感觉世界feeling

记忆（Memory）——有很多子类型，比如短时记忆、长时记忆，情景记忆、陈述性记忆、程序性记忆等等，不一而足，记忆直接对应着连接关系与其权重，将0也看成权重的话，本质是权重对外界影响的落实。比如一个场景，连续的感觉输入包括相关概念的唤醒，也包括时间性感觉和概念，时间性的记忆由前后关系型连接建立，发生的事物、以及事物的空间和时间关系都影响着大量连接的权重，尤其是一过性场景能形成长期记忆，可能以来脑中的回放机制来加强记忆。短时记忆机制的已逝性和与长时记忆的可塑性，说明权重变化既是敏感的也是可加强的，有可能不同特性的连接用于不同的功能，有些连接比较迟钝，权重落实慢，需要反复刺激，有些权重落实快，增加快降低也快，可塑性太强，反复变化，不便于长期记忆。说到记忆，往往指的是我们意识能感知到的知识、概念、生活经历等等，但实际上类似于感觉初级皮层的功能形成与意识可感知的记忆形成本质都是权重落实问题。只是大脑很难意识到初级皮层的感念，初级皮层的权重形成也是倾向于统计上的落实。而记忆更倾向于一次性的权重落实，和反复单一刺激强调的权重落实。所以无论是情景记忆、程序性记忆，还是陈述性记忆，都是不同类型的输入建立关联的过程而已。回想是记忆落实和加强的重要手段，例如恐怖性经历会刺激本能反复回想该记忆，从而会终身难忘。难忘的记忆征用了较多的记忆资源，并且时常回放进行巩固，轻描淡写的记忆动用了较少的记忆资源，又很少回想，这些记忆资源慢慢被其他记忆所替代。 Read more

深度学习的发展很快将到达一个瓶颈期，因为从更高的维度来看，从开始到现在我们对待时间问题的处理方式都可能存在的方向上的错误，虽然RNN相关的技术在时序相关问题上取得了不错的成果，但应用范围依然有限。

那么，问题到底出现在哪里？在下献一拙思。

梳理生物等级链的智能演化，大家可以发现，对于时间性问题的处理，是神经网络在诞生之初就最先具备的，而我们的人工神经网络恰恰是从诞生到现在都不具备的，举个例子，对视频进行实时的物体识别、定位与标注是怎样做的？利用训练好的深度神经网络对当下选取的一帧进行计算，算出的向量用于展示，再选取一帧重复计算，整个流程是由人类算法控制的，网络的计算呈现的是时间无关性，亦即就像时间静止时网络做了一件工作，再推动时间向前一步，再静止工作一样，我称之为静态识别网络，进而可以理解如果是动态识别网络，那就像生物学神经网络那样，信息流源源不断地流入，计算在每个局部都在发生，结果在时间流上持续出现。显然，我们现在已知的网络都没有走这条路，这其中可能有计算量的问题，也可能有理论上刻意的选择，但我的见解是动态网络才是智能进阶的关键点。
当然，在整个智能系统中，特征的自动发现、层级组合性等诚然至关重要，但这些关键的能力之外，我们可能还忽略了若干重要的能力，动态性就是其中一个，有了这个能力，我们的网络就可以更加容易地处理时间流上的东西，比如运动控制、传感器流的处理（包括视觉流处理能力，更好的声音流处理能力以及其他知觉的感知能力）、联想、观察、思考、甚至产生意识。

那么现在的RNN存在什么问题呢？

就是因为RNN虽然引入了时间性，但是不彻底，他的本质是直接处理静态化后的数据流，再进行处理。静态化就是将随时间流逝的东西借助缓存等手段变成一个共存的东西，静态化是智能系统面对时间性问题的解决方案，比如视听觉暂留机制、缓存机制，但RNN在静态化方面是被动的，因为网络本身不提供静态化的机制，他只能将人为静态化后的成果进行处理；RNN是图灵完备的，他可以模拟任何计算过程，而程序也是静态化的，每一条指令的执行是基于CPU的时间片的，RNN本质上也是，是通过程序控制RNN的step的，倒不是说这种序列步骤有什么错误，问题在于序列步骤的基础仍然是人为的，所以网络缺乏了施展空间，这种结构限制了RNN具备更加复杂的时间性数据的处理能力，所以你无法用RNN进行实时地观察、联想、思考甚至互动等等。

那应该怎样做呢？

我的一个思路是这样的，基本就是生物脑运行模式，先抛弃计算量的问题不谈，假定我们不需训练已经掌握了一个权重直接确定法，我们先让这个用于某种功能的网络可以实时不断地接收外部数据，每个神经元都独立计算，一个完全的分布式模式；从运动控制、简单的感受器做起，沿着生物进化的脚步增加该神经网络的复杂性。

第一个问题，小样本学习问题

之前，我一直认为深度学习的小样本学习能力差，是因为不应该用统计的手段，但现在意识到不是因为统计的问题，而是因为重新发明了轮子，信息利用度不够，举个例子自然图像识别的第一层是方向基，线条基，大家都在重复地训练第一层就是重复劳动，第二层、第三层也有类似的问题，其实前面几层都用通用性，即使到了后面几层，不同的训练之间也是有大量共通的东西。而通用智能的解决方案在于提供了一种灵活、高度的可复用机制。说白了，当我们有足够好的条件的时候，我们会尽量减少统计，但统计的本质没有错。 Read more