纠错+
马斯克说人生最大的挑战就是要有纠错反馈循环,人生不应该回避犯错,而是要不断地知错就改,不断地纠错。
根据硅谷王川网文整理
1、神经网络模型
传统的神经网络模型似乎就是这么几个部分:
1/神经元,就是一个函数,根据输入计算输出。
2/神经元之间的连接强度,对应于计算输入的加权值。
3/ 成本函数。就是衡量根据输入计算的输出结果,离正确值多远,有多靠谱。
4/ 学习的算法。learning algorithm 这个可能是最核心的,就是根据成本函数,最有效的自学,纠错,找到神经元之间最优化的加权值。
【自学、纠错】
2、计算量数量级下降
86年以前,神经网络算法,要学习,纠错,传统的gradient descent, 其计算量和神经元数目的平方成正比。反向传播算法的发明,把运算量降到只是和神经元数目本身成正比。这带来神经网络研究的第二个春天。
【人工智能本质是算力、算法】
3、计算和通信
说明计算和通信是一个事情的两面。计算和通信都是把数据从一个时空移动到另外一个时空,并且按照某种规则做出变换。实际中,这种变换还要增加系统干扰部分,以及纠错。我们传统说的计算更加偏重数据变换,而通信则更加偏重数据的移动,干扰和纠错。计算和通信熟悉互相制约
并行计算除提升计算速度外,也大大提升了存储速度,因为存储也是分布式的。现在CPU的主频越来越高,速度越来越快,瓶颈不在计算速度,而在存储和I/O速度上
【?】
4、切片和整体
今天看到一篇有趣的论文,哥伦比亚大学的 Erik hoel 提出所谓的 casual emergence 的概念。他把微观个体的集合在宏观上表现出来的“涌现” 的现象,和在有噪音的信道上准确传输数据类比。香农曾说,“ (用纠错编码)在有噪音的信道上精准传输信息,好像是无中生有 getting something out of nothing.”. 许多复杂系统在宏观上表现的一些特性,无法用个体的微观性质解释, 似乎是无中生有,但本质上也是一种纠错编码 (error correction code) 在宏观尺度上的体现。
句话说,个人在社会的微观行为大多都是无用功。分析宏观尺度上什么东西对未来有决定性影响,很有意义//@我是一棵伯树:原因现象是一种集合状态,不是单一实体,某一个单一实体随机的碰巧的在最后完成,它就被认为是根本原因,这是错误的,在时间序列所生成的原因状态中,个体的先后在本质上毫无意义。
【无数的微观构成宏观】
5、制造一个制造机器的机器
建立快速迭代纠错的机制,是向内看,解决本质问题的一个重要手段.
但有的时候局部优化做到极致,更多的投入不再有较大回报时,拓宽视野向外看,也是解决问题的一个重要角度和方法.
特斯拉在准备大规模生产第三代电车 Model 3时,为了降低成本,提高性价比,在电池,马达,车型设计等各个方面绞尽脑汁.
但是跳开电车设计本身,在生产电车的工厂的设计上,投入同等的时间其潜在的回报要大得多,有时可能高出一个数量级以上.
马斯克说,
“我们意识到,真正的问题,真正最困难的,同时也是潜力最大的地方 - 是制造一个制造机器的机器。换句话说,是建造工厂,把工厂本身看成一个产品.
当你想象一个特定体积的工厂,输出等于 容积 x 密度 x 速度。如果你看看现在的工厂,有效 (用于生产的) 容积和无效容积的比例,低得要命。光看容积的化,大约比例只有 2-3%.
然后你再看速度。。。世界上最先进的汽车生产工厂,每 25 秒出产一辆车,听上去很快,但是如果你估算车身长度加上一些缓冲空间大约五米长的话,这等于25秒移动五米,也就是一秒钟移动 20厘米,这不比乌龟快多少. "
特斯拉的 CTO JB Straubel 说到,
“有时我们的工程师在马达,电池,电控系统上花了很多时间,只是为了获得千分之一的性能提高。。但是我们如果把同样的精力放在设计工厂上的时候,我们很容易得到百分之十,百分之二十,甚至百分之几百的效益的提升。。这种大幅度提升在设计领域内闻所未闻”.
如果特斯拉是把工厂外包,一门心思专攻软硬件系统,缺乏对制造的理解,则无法在工厂制造这个维度看到大的优化机会,这是广度比深度重要的一个例子。
【全局优化,全局范围内纠错】
6、人生是认知变现
未来最重要的资本积累,应当是智力资本 (intellectual capital)的积累. 能够容纳各种最先进的知识结构和思维模型,能够前瞻性地发现多数人没有意识到的路径和趋势,能够不断自我纠错得以更加准确的理解事实真相。
价值互联网的涌现,使得价值财富的创造,指数级的增加了多种路径,传统的主要依靠杠杆的傻大粗的金融资本的力量, 可能将被大大弱化。
【高认知即是财富,智力资本即是财富】
7、认知不断迭代提升
过程导向的哲学,评判进步的标准可能是:
我是不是又纠正了对一些概念的错误理解?
我是不是又学到了新的,完全不同的知识,思维框架和方法论 ?
我是不是又积聚到新的资源,人脉,让我更加反脆弱 ?
我的学习速度,纠错速度,是不是又更快了?大脑内存是不是更多了 ?(这也许要到脑机结合的技术实现后才会真正有大突破
再加一个标准:我从外界获取的信息,是否更加全面,更加细致,更加迅速,更能真实地反映客观现实?
【足够多的细颗粒的事实性信息+高复杂度知识+丰富的思维模型+广泛的人际关系+纠错反馈循环】
8、还原论和涌现轮
1/ 科学研究有还原论 (reductionism) 和涌现论 (emergentism) 之分. 还原论讲究的是,把事物拆分为更细微的结构,然后根据微观结构推导出因果关系和宏观的规律。还原论在物理和其他很多学科中取得巨大的成功。
2/ 涌现论的基本逻辑则是,在一个复杂系统内,各个零部件之间的互动,存在很多随机性,即使知道所有微观细节,也无法推导预测宏观现象。甚至即使回到当初的初始条件,再来一次,也无法保证演化的结果和上次一样。
3/ 在投资领域,很多人分析投资,看项目,各种考察,本质上用的是还原论的逻辑。
4/ 而被动的指数投资,本质上采用的是涌现论的逻辑
5/ 实际操作上,97-98%的美国共同基金的十年长期回报,扣掉管理费后,无法超过标准普尔指数基金。对冲基金的表现就更差了。
6/ 人性对于还原论的逻辑非常执着,因为看到成功案例多了, neurons fire together wire together. 所以每个人都想成为索罗斯,巴菲特。
7/ 1988年丹*奎尔作为美国副总统候选人参加辩论,被对手质疑太年轻时,他拿肯尼迪 44岁就当上总统一事来辩护。民主党候选人本森说,“参议员,我认识杰克*肯尼迪,他是我的朋友。你算不上杰克*肯尼迪”.
8/ 年轻人爱拿索罗斯狙击英镑一事,来勉励自己看到好机会要重仓。但是以绝大部分人的阅历,和哲学底蕴,根本无法望索罗斯相背。
9/ 还原论适合于孤立的,局部有限时空的,变量极少的场景;涌现论适用于开放的,广阔时空的,多变量的场景。还原论的误区在于,支持局部孤立现象背后的因果关系,在多个不同节点组成的复杂系统里,并不具有必然性。
10/ 一个企业家过去的成功,归因为“靠谱,专注,all-in", 但在新的科技浪潮来临时,这也可以说成是“赌徒孤注一掷带来的自我毁灭” 。曾经在山里称大王的猴子,把成功归因为可以灵活地在树林里上蹿下跳,但外面的老虎来了后只得抱头鼠窜。
11/ 开放系统带来的外部因素,可以随意摧毁所有局部经验积累的似是而非的逻辑。还原论式的投资者的误区在于,当外部环境变化了,自己的选择被市场证明是错误的时候,还死死咬住原来的错误逻辑,直到被市场彻底抛弃。
12/ 对于更高维度的观察者而言,还原论者永远是井底之蛙,当然在井尚未被新的外部因素冲击之时,其逻辑的局部合理性也是事实。
13/ 涌现论的操作特点是,根据涌现出来的最突出的标的来调整仓位,而不拘泥于某个特定因果关系的逻辑。所有因果关系都是基于某个抽象模型的简化设定,而任何主观的简化设定迟早会和客观事实产生巨大的错位。
14/ 旧的抽象模型和新的客观事实产生错位之时,对于新人是巨大契机。对于顽固的老人,则是死亡螺旋的开始。
15/ 涌现论的实践者,也无法避免被各种噪音所干扰,也会有各种回撤和曲折,但是它的内在的自我纠错的能力,可以避免某一次偏离正道太远而彻底毁灭。
16/ 数亿股民痴迷于技术分析K-线图而无法自拔的一个主要因素,可能是相关的信息很容易获得,操作简单,虽然其有效性是个大问号。类似,还原论的操作方法,虽然大多表现不如指数基金,但被多数人认可,是因为它容易理解,大家都觉得自己可以成为少数聪明的可以长期超越市场指数的赢家。
17/ 有哲人最近提出这样两个严肃的问题:是什么力量让人相信按摩胸可以让胸变大,按摩脸可以让脸变小?是什么力量让散户相信十几年前2700点,十几年后还是2700点的股市能挣钱?最终,人们相信他们愿意相信的东西。随他们去吧。
【还原论具有局限性,容易成为井底之蛙,刻舟求剑;涌现论保持开放,符合事物发展的客观规律,人类的认知总是滞后于世界的变化。保持不可知状态,跟随变化,去理解变化】
9、不能纠错的机制有致命缺陷
遇到一位老投资家,一针见血的指出:
一级市场的投资,最大的缺点和风险是,无法纠错。
不像二级市场,如果发现错了,可以随时卖掉离场。这个差别,要经过很多痛苦的教训,才能深刻理解。
【一级市场缺乏流动性】
10、拒绝改变自己,试图改变他人,大错特错
1/ 每个人会根据只言片语的局部信息,自行脑补其它内容,来符合自己的叙事模型。而很多脑补的内容,和真相是八竿子打不着的。
2/ 但是这类叙事模型在人与人之间传递时,会被强化。最符合大众文化的叙事模型,将会成为大众的共识。
3/ 这类共识,如果无法被简单明确的证伪,将被强化成真理。
4/ 仅仅因为大众是错误的,就以为凭一己之力,大声疾呼,就可以扭转这种错误认识,是完全不现实和简单化的。
5/ 更重要的是,存在什么契机,简单明确地证伪大众的错误认识。
6/ 需要有个大概的时间表,这种契机带动形成正确认识的大众人数,是否可以越滚越大,何时突破临界点。
7/ 爱因斯坦的广义相对论 1915年提出。1919年五月在一次全球性的日食中,首次得到实验验证,这是第一个临界点;之后很多人还对实验测量精度长期存在各种质疑,但随着多次新的实验验证,和更高级的射电天文望远镜的测量手段出现,反对声浪一步步萎缩到消失。
8/ iphone 2007年一月推出时,因为价格等因素受到广泛质疑。到 2008年九月时,累积全球销售量是六百万,但在 2008年第四季度,一个季度销量就接近七百万,超过之前的总和。这是第一个转折点。到 2010年时, iphone 只有手机的 4%市场份额, 但是拥有超过手机市场 50% 以上的利润,已经没有什么好质疑的了。
9/ 理解转变的契机,和时间表,是需要背后做大量客观研究分析,收集大量数据,是不可能舒舒服服坐着看看(常常极端误导的)新闻头条就得出正确结论的。
10/ 和周围同样没做深入研究的人交流观点,更可能会强化错误的叙事模型,纯属浪费时间。
11/ 通讯速度的大大增快,意味着错误的叙事模型传播速度飞快,群体极端之不理性可以荒谬到难以想象的地步。当然同时也意味着纠错是飞快的。只是纠错的过程,对于站在错误位置的人们,是极端痛苦甚至致命的。
12/ 每天看到不同的人群,对同一件事,有完全不同解读,而且都在主动寻找对自己有利的证据,忽视对自己不利的证据,并因此强化自己的观点和叙事模型,觉得异常好笑。所以年纪稍微大一点的人 (三十岁以上?),作为一个整体,其认知模型之顽固不化,并且互相强化,基本上就是统计上的必然。
13/ 回顾往事,犯的最大的错误之一就是拒绝调整和丰富自身的思维模型,错误之二就是徒劳地企图改变他人的思维模型。
【通过改变自己来改变世界】
| 留言与评论(共有 0 条评论) “” |