在探讨人工智能的发展之前,我们有必要回顾一下18世纪工业革命对人类社会的深远影响。工业革命极大地提升了人类的生产力,实际效果体现为将人类从繁重的体力劳动中解放出来,同时也大幅提升了对人类智力劳动的要求。由于资本家们通常无法直接操控复杂的工业系统,他们不得不将庞大的工业体系进行模块化管理。每个被细化的模块通常交由主要从事脑力劳动的管理人员负责,而这些管理人员则会进一步安排若干名智力要求相对较低的操作人员具体执行相关工作。这种分工模式为工业系统的高效运转奠定了基础,同时也标志着人类劳动形式的重大转变。
按理来说,在达到此前同等生活质量的情况下,所需的人力资源应该大幅减少。然而,从下图所示的人口变化趋势来看,全球人口在那之后呈现出指数级增长的态势。这种看似矛盾的现象表明,工业系统的正常运转和扩张似乎需要大量人口的参与和支撑。工业系统的日益复杂化与人口的快速膨胀相互作用,形成了正反馈机制,推动两者螺旋式上升。

但我们都知道,受制于资源的有限性和环境的承载能力,这种人口增长趋势不可能永无止境地继续下去(暂且不论当前的人口规模是否可以继续维持下去),不然迟早非撞上南墙不可,资源枯竭和环境遭到不可逆的破坏总有一个会最先来到。当是时,人口的生存状态将会首当其冲地受到强烈冲击,最终表现为人口数量开始长期下行,势必会影响到建成的工业系统的正常运转。
社会的管理者们肯定会极力避免这种情况的发生,那么具体该怎么做呢?对于人类劳动形式的再次重大转变似乎已经呼之欲出了,对于新的劳动形式一个最基本的要求就是能适应更少的人力,无论是管理人员还是操作人员,甚至要做好减少一到两个数量级的准备。考虑到成本核算和实现难度,相比于操作人员,对于管理人员的需求量将会缩减得尤为明显。
贫者一万留一千,富者一万留二三。
尤瓦尔赫拉利所描述的“无用阶级(useless class)”
工业革命之后指数级增长的人口更像是为了召唤出先进智能而献祭的牺牲,完美符合老子对于天地的描述,即“天地不仁以万物为刍狗”,王东岳将刍狗理解为“一种用于祭祀的草扎的狗”。因为先进智能一旦登场,人类这种原始低效且相当不稳定的用智方式将会彻底失去用武之地。问题在于先进智能究竟会发展到何种地步以及因此导致的无用阶级数量将会达到何种的规模?
其中两个最关键的节点就是,一就是AI发展出自我迭代自我升级的能力,二就是在此基础上,该能力在不被限制的情况下使得AI进化为人类无法理解无法掌控的先进智能。后者
人们口中那众说纷纭的“人生的意义”之所以众说纷纭,又何尝不是一种当局者迷的表现呢?因为谈到意义,必然要明确有所意义的对象,比如你问一辆踏板车的意义是什么?绝大多人都会认同踏板车的意义就是让骑它的人相比于步行能更快更省力地抵达目的地,至于踏板车的存在对踏板车本身而言有何意义,至少在人类看来应该是不值一提的。同理可推
什么是奇点? 奇点何时到来? 奇点到来对人类社会普遍的影响 奇点到来对繁殖爱好者们的影响