本文主要探讨完形与世界模型的关系。

格式塔心理学引入了心理学的动力学视角，启发我们从一个全新的角度看待世界模型的构建，自我、感官、旧脑等综合作用下会产生不同的行为环境的内容。
考卡夫向我们展示了一系列实验，表明人在解构感知信息时会倾向于简单性、相似性、闭合性等一系列完形原则，虽然其大作《格式塔心理学原理》中并未探讨成因，但在生理-心理联合框架上下足了理论功夫。 Read more

如果全部读完，基本算是一门脑科学、心理学、神经科学入门指引课。视频地址：https://www.youtube.com/watch?v=WuUnMCq-ARQ

Most thought is unconscious, and the usual estimate is around 98 percent. But if you believe the work that Stan Dehaene talked about the other night, it is more than 98 percent. Consciousness is the tip of the iceberg of thought. It is there that things are put together in an interesting way and the interesting way is the following, that before consciousness, what happens is that your brain unconsciously changes what you perceive or what you think. This is something remarkable. I think one of the best papers I heard on this was by Shin Shimojo who is a vision scientist at the Caltech. He came to Berkeley a couple of months ago and gave a truly remarkable overview of experiments that showed this, many of them which were his. Let me give you a sense of this. Suppose you know that if there are flashing lights and they are going along and they are going fast enough, they look like a single stream. Read more

tensorflow的灵活性带来的学习成本是很多人头疼的问题，在tf中，读取数据基本有四种方法：
1. tf.data （官方推荐）：方便地构建复杂的输入管道
2. Feeding：通过input_fn来yield数据
3. QueueRunner：基于队列的输入管道
4. 预加载数据。用constant或variable在内存中存储所有的数据
Read more

这个是幂次学院的机器学习课程大纲，非常适合自学者给自己做参考用。注意这个不是深度学习为主的课程，机器学习的传统理论就满满一大筐了。

第一部分 基础篇

第1章 初识机器学习
1.1 引言
1.2 基本术语
1.3 假设空间
1.4 归纳偏好
1.5 发展历程
1.6 应用现状

Read more

讨论建立在刚具备初步的通用智能框架理论指导，也有可能是民科水平，没有实践检验，没有发表任何重量级论文的情况下，如何选择未来的问题。

学术著作需要非常严谨的科学精神、科学实验，产业界的要求低很多，隐藏在产品后面的代码哪怕是一坨屎，只要work，一样可以获得用户。如果你认可该通用智能框架的价值，那首先要做的，应该是保密，因为真正的通用智能会带来指数级爆炸的个人能力，是超级武器，是洋枪洋炮对大刀长矛。
类似DeepMind一样，对脑科学有深刻的认知，但每一个开放问题的挑战都充满难度，虽然可以创造性地造出很多新的架构，不断推荐人工智能技术的前沿，但直接实现通用智能仍然可能受到算力和技术上的困扰。
像DeepMind都如此艰难，其他人就会更加艰难，当然不是不行，是概率更低，冒险不划算，搭上全部的精力去做通用智能体可能会无功而返。当然我们其实还是可以有判断标准的，就像任何理论都要接收实验检验一样，通用智能框架理论也要能够解释执行智能任务的工作原理。这个东西解释的越模糊、自造的概念越多，就越不靠谱，约与主流学界的结论像契合，解释的逻辑越清晰通透，扛得住推敲，能否经得住专业人士的质询，就越靠谱。

因此我们假定一个普通智商的工程师虽然获得了高维理论的指导，但做出一样领先世界的东西，我们依然认为有难度，直白的说，就是一个笨蛋拿着枪都未必打得过一个拿到刀的聪明人。但笨蛋依然有活路，他可以去笨蛋堆儿里称王称霸，然后成为了暴发户，雇佣一群聪明人为他效力。越是学术的，笨蛋的机会越少，越是商业的，笨蛋的机会还能多一点，所以对于通用智能框架来说，走商业的路径会更划算一点。当然并不是真的笨蛋就可以在商场有所作为，这种水平的人也就在他家楼下的商场能有点作为而已，所以我们假定这个持有通用智能宝典的人是相对智力金字塔顶端的人们显得比较笨的普通人。
但因为商人的成功没有规律可循，多数的结论会认为这些人都有各自的优势，有一些没有收到良好教育的人也可以称为商业巨子，一些所谓的天子骄子却屡战屡败。由于我们假定我们拿到了通用智能架构这个宝典，就像得到了一门武功秘籍，让我们有机会在这个不是那么挑人的领域里有所作为。
虽然学术界也有很多败类，但真正真正的大家都还是经得起推敲的。但商业世界就不那么严谨，他们不会追究你理论是否真的正确，即使你取得了商业上的成功，也会有很多人认为原因是你走了狗屎运，而成功的人说的每一句话又被奉为创业圣经。
我们喜欢这样的领域，因为你可以更任性和放松一点，就算失败了，你也可以说是运气不好。而若你的理论在商业上取得了成功，你又不想被人发现，构建自己的技术壁垒，你也可以说成是运气使然，并不是我的理论水平高。
这是一个可以很好保护自己的领域，如果你拿到的是一个宝典，你显然不希望它暴露于世人，你可以假装自己借鉴了很多现有的成果，将自己的成功归功于站在巨人的肩膀人，再聪明一点，可以说自己只是应用现有的科技成果而已，只是恰好应用到了对的领域。
如果有人深究，你就亮出非专业的身份，他们会认为你一定是个骗子，大抵会放过你，没有人愿意跟一个傻子浪费自己的时间。是的，光是这样的意淫就很开心，如果去试验一下，岂不是更有趣？
构建安全的AGI非常重要，它关系到人类的命运，一旦不慎，就会擦枪走火，所以制造通用智能反而是要尽量避免的事情，我们更希望借助通用框架来指导专用智能、超级专用智能的开发。所以从现实意义和理想主义两个角度都建议不要强行走通用智能体道路，如果不小心产生了意识会有很麻烦的伦理问题，即使为外界所不知，也要忍受自己的良心煎熬，当然良心很可能会被战胜，贪婪的欲望会战胜一切。

当然失败有可能是注定的，这源于在写下这篇分析文章时，没有引用到真实的数据，缺乏正确的逻辑推理，想当然的结论，尤其这种一气呵成的文章，最缺乏成熟的思考，反复的推敲是有必要的，你所看到的版本可能是改过无数版的结果。上面这段话应该是一直保留的。看国外的论文，尤其是书多了，你会发现，沉下心专注一件事情几十年的人到处都是，而且很多都是顶级的人才，如果他们都没有研究出通用智能框架来，你有什么理由取得成功呢？是时机，十年前我也认为不具备时机，所以对AI没有信心，后来深度学习兴起，我有了信心，才深入学习。发现其实很多事情，专家们都想得很透彻了，甚至可能很多人已经想透，只是因为没有实验成功，他写得厚厚的著作，没有什么人看，大部分包括研究人员都是追着热点走的，他们要尽快出成果，尽快出论文，不可能几十年如一日地做理论学家。但通用智能恰恰是要先搞清楚理论的，然后是解释明白这个理论在完成智能任务上的机制，再然后才是实验，如果专心做通用智能体又可能面临失败，所以今天这个世界上最成功的人工智能研究机构是Deep Mind，他们的思路是对脑科学理解深入，但挑战每个问题的时候，都采用的是专业智能的思想。他们受到Deep Mind科学家的“通用智能架构”的思想的指导，你说他们没有掌握智能的真谛么？不一定，他们懂得工作记忆、注意力、表征学习、海马的原理、精确的脑结构和分区功能，他们能描述出运动控制的基本原理、小脑的原理，他们对大脑的原理已经了解深入，他们可能对很多细节还不太了解，所以他们会谦虚地说没有找到通用智能的钥匙，但我们不能否定他们可能已经掌握了通用智能所需的相当部分知识。所以他们在创建新型网络架构时才得心应手，令其他研究机构望其项背。
在这个世界上任何一个机构发明出通用智能体之前，在开始奴役这些智能体为其免费效力之前，所有持有通用智能架构的公司，仍然可以进行领域细分，所有人做的都是专用智能模块的开发工作，当这些专用模块还不具备足够的灵活性之前，跟我们现在世界各地数以千万计的程序员所写的代码一样，都要人来维护，公司来运作，如果不同的代码用于不同的领域一样，不同的智能模块也应用于不同的领域。这是理想情况下，现实情况更容易一些，整个世界的进展受到各种制约，有的国家整日忙于战乱，生活落后穷困潦倒，饭都吃不上，更不必提什么信息化，连现代化都没有。可以想象即使人工智能极度发达的那一天，仍然有可能有人类生活在贫困线以下，这是人性的问题，不是技术的问题。但这也告诉我们，机会比想象得要大，更更何况人类的需求上限是无止境的，真若要满足终极的需求，智能要做的工作还有很多，包括向科学难题发起挑战。所以，市场空间和竞争压力不是问题，至少起步的这十年应该不是问题。
从长远来看，一个未来的公司，抢占所有的领域份额都是必要的，所有可以智能化的方向都值得抢占。但精力有限，必须将有限的精力放在最有成效的方向上。我们说了，我们假定的前提是当今世界上已经有人掌握了“通用智能架构”，并以其为指导进行专用智能的开发，比如前面一直说的Deep Mind那帮家伙。这就变成与金字塔尖的人抢同一个领域的事儿做，信息系统、智能系统的特点是拷贝无成本，所以任何领先的一方都可能对后来者产生压倒性的胜利。如果我们强行挑战L4\L5，我们冒的风险，就和发表顶会论文一样大了。更务实的，直觉上，我们会认为要进入的领域应该尽量具备以下特点：

1. 启动成本要足够的低。这涉及技术能力问题，由于是普通人，写代码的速度都比jeff dean慢一倍还多，不可能上来就挑战世界性难题，所以认清自己选择容易上手的开始做，避免三年不出成果，出来就死的尬事。
2. 巨头投入要足够的少。要知道，即使理想情况下，巨头没掌握的通用智能架构情况下的水平都可能和你掌握了的水平查不多，而他们是假定他们掌握了的，你最好避开他们进入的领域。
3. 潜在市场要足够的大。如果不足够大，就不能赚足够多的钱，就不能低调地发展，要在不起眼的地方崛起，才能避开世界的注意力。很多团队找不到足够好的市场做切入，在红海里杀的你死我活，只能靠拿打榜来骗投资过活，当他们中大多数并没有掌握高维理论，所以更多是享受巨头的学术和开源红利，这些红利的应用空间有限，用现成的网络架构和开发新网络架构不是一个量级的事情，但有高维理论指导下的新网络架构开发会容易许多。
4. 门槛要足够的高。保持神秘性是门槛的第一步，巨头没有精力介入是门槛的第二步，等巨头有精力介入时，需要投入足够的资源来开发，需要一定的时间来趟坑，这就赢得了时间上的先机，这时候巨头更喜欢直接收购你，而不是另起炉灶去做。所以选择的市场既不能太大也不能太小，太小违背上一条，太大巨头介入的时间过早，门槛抬的不够高。

实际上，上面的想法是朴素的，不见得直接有效，事情是不断变化的，巨头们也不是直接针对最庞大的市场切入，他们要在经济效益、难易程度、研究热点甚至创始人的喜好等多个角度进行自己的考量，所以他们的切入领域不见得是按市场规模排序的，他可能跳过第8、9、10名直接挑战第11名。而且由于对通用智能框架掌握的不自如，会影响他们的自我判断，有些其实可以挑战的领域还不太敢下手挑战。所以面临的竞争情况将可能是更加不确定的，这些都是从长远角度来看，其实从动态快速变化的视角看度，如果在一些容易点的领域做出一些成绩，虽然竞争激烈，也可以赢得关注和启动资金，接下来再挑战更有难度的事情。所以挑战主流竞赛，尤其是有噱头的也是一种办法，这种路数应该是普遍方案，所以对于持有通用智能方案的人来说，是不经济的，因为很多挑战已经进入超级智能阶段，比如人脸识别，通用智能并不能帮上什么忙，可以挑通用智能擅长的搞，但做比赛有泄露机密的风险，所以要做好预案。融资的利弊是如何考虑的呢？虽然不融资可以将股权占比最大化，但没有资本推动加速成长，会导致绝对收益变化不够快，做通用智能重要的还是与时间赛跑，如果磨洋工，十年后可能就什么机会都没了。因而能在一些人类尚未挑战的领域取得佳绩会是非常不错的发展路数，这就回到了前面的顶会论文发表问题上。那我们是不是发个paper就可以冷启动了？是，但是民科写paper的能力可想而知，没有专业素养，可能耗费很大的精力在一些专业问题上，所以前面说了商业领域比较划算的问题，所以同样的精力，如果能在商业上有价值，那么难度其实降低了的，当然学术难度降低带来的是商业难度的增加，不像学术问题，只要挑战别人没挑战的，不管有没有实用价值，因而需要在商业上做一点精心挑选，但这个挑选是由复合价值的，如果成了，可以改变相应的领域，解放劳动力，带来商业价值，收获声誉的同时带来关注和投资。要知道学术成果商业化一直是个难题，这与我们的商业目标不符，我们的使命是：解放劳动力，让人类不再工作。生产力的极大化繁荣才能实现共产主义。

那么都有哪些领域可以进入呢？三百六十行，行行可进入。

就像无人驾驶要取代司机一样，我们可以列举现代社会的职业分工明细，来看看哪些庞大的领域可以进入。智能的作用也可以是辅助而不只是取代，要知道人类其实是忙不过来的，很多问题主要还是结构性问题，不是需求问题。有些职位很缺人，但是没有足够的知识人才储备。很多人找不到工作，完全是因为不学无术，当然更多的人是生的不好，很难接受良好的教育，或者被恶劣的环境毁掉。不扯远，我们看看现在人类社会有哪些职业。虽然职业之下还能细分，但起码可以得到一个粗粒度的概览。另外，多数技术其实是跨维度的，就是一种技术可以应用非常多的行业，所以切入点更多还是从技术功能的横切面角度入手，而不是职业角度，从职业角度梳理出智能任务，查看智能任务在每个职业的占比，可以总结出智能任务的行业覆盖面。实际上智能任务还依赖智能技术的成熟度，所以最终映射到各级智能技术的的行业覆盖面，举个非常典型的例子，比如很多行业的人都要依赖图灵机制，但信息化时代，只有结构化的数据才能借助图灵机来完成自动化，所以部分程式化的工作得以用计算机来完成，而人类更多处理非形式化的东西，图灵机制就是非常非常切面的技术。最后，我们根据最优化算法，找出综合实现难度和覆盖面的最佳选择。由于是从中国起步，所以我们先从《中华人民共和国职业分类大典》入手。

58同城招聘信息

当然进行下面一步之前，我还要说一下为什么要从职业入手而不是从行业和服务入手，因为一个行业、一个机构或公司、一个服务产品可能需要很多人相互协作，要涉及到非常多的工种，所以这个角度太大。所有的智能任务都是人来完成的，这很容易从人这个角度去细分智能任务。那为什么不直接从人自身的能力入手呢，如果能做到人能做的所有事情，不就可以什么都能做了么？这是通用智能体还无法实现的问题，我们虽然有框架理论的指导，但是具体实现通用智能体还是有很多技术障碍和算力障碍的，现在可以定义成是半通用智能时代，就是用了一个相对清晰的类人智能认知，指导专用智能的开发，那么很多能力就会局限下来，比如面向特定领域、提供有限能力，在自由度较小的可控制体上应用控制技术等等，那么从职业中鉴别出的智能任务就可以直接映射到具体需要的能力上，再推演完成一个任务如何构建该专用智能结构。而人的能力是很通用的，你又制造不出通用能力来，就只能退化到专用结构上来，举个非常简单的例子，人经过十几年的培养，具备了大量的常识，我们要做通用智能体就得训练出这些常识来，而如果退化到专用智能上，很多任务不需要那么多常识，需要的训练的基础概念就少了很多，可能在有限的算力和网络空间内就能训练出来，足够特定任务使用了。再比如非时间类任务就不用考虑时间问题，不用上高难度的时序网络，比如物体定位。但这种能力并不是专科专用的，也具有一定的通用性，所以我们要找到那个专用模块跨行业最多，影响面最大的，或者可定制成本极低的专用模块架构。

–> 接下篇 通用智能框架如何指导实践（二）

本节主要梳理中华人民共和国职业分类大典和人类技能划分，讨论哪个基础专用智能模块的价值最大，覆盖面最广。

从大类上来看，未来可替代性而言。

深入分析各类职业，你会发现，现阶段进入全面替代是十分困难的，我们必须遵循从易到难的思路，先从部分替代或工作减轻入手，逐步完成全部替代，这既是科学的演进路线，也可以避免一口吃个胖子的冒进风险。

本文对论文《world Models》的前半部分进行了翻译，看过前半部分基本就了解结构了，我个人认为Schmidhuber还是一如既往地喜欢把小东西往宏大了说，当然也多亏了他起的题目，很多人对世界模型产生了浓厚的兴趣。但本文的确不能说在世界模型方面有了飞跃的进步，只是将隐变量配合LSTM当作了世界模型，所以我不打算翻译后半部分了。虽然现在大家对于时序问题还没有太好的办法，很多时候不得不靠LSTM，但LSTM绝对不是未来。

世界模型 World Models
David Ha, Jurgen Schmidhuber

摘要

我们研究在流行的强化学习环境中构建生成神经网络。以监督的方式可以快速训练我们的世界模型学会环境的压缩空间和时间表征。将从世界模型中抽取的特征作为智能体的输入，我们能训练出一个非常紧凑简单的指定任务解决策略。我们也能训练智能体完全沉浸在自己的幻觉中基于它的世界模型做梦，并将策略迁移回实际环境中。

Read more