资本、通用人工智能与人类雄心

通用人工智能将改变人类与非人类生产要素之间相对重要性的格局，既降低对人类的关怀激励，又使现有权力更为有效并趋于固化。

【补充说明】：本文的主要观点是，用以替代劳动力的人工智能将改变人类与非人类生产要素之间相对重要性的格局，从而降低社会对人类的关怀激励，同时使现有权力更为有效且固化。许多人阅读本文时要么认为（a）“资本”仅仅意味着“金钱”（而不仅包括工厂、数据中心等实体资本），要么主要关注的是人对人之间的不平等（而非关于整个人类群体地位、社会变革潜力和人类能动性等更广泛的社会问题）。

我曾听过许多人说“后通用人工智能时代金钱将不再重要”。这种说法总让我感到奇怪，并且极有可能是完全错误的。

首先：劳动力指的是人类用来创造有价值产出的精神和体力劳动；资本品则是指工厂、数据中心、软件等——这些由人类制造并用于生产商品和服务的实体。我在此将“资本”既指资本品的存量，也指能够支付资本品的金钱；而当我只想排除资本品时，就专门使用“金钱”这一词汇。

人工智能带来的关键经济效应在于，它使得资本能够越来越普遍地替代劳动力。你不再需要支付人类时间来完成工作，因为可以用资本（例如运行软件的数据中心）来代替人类进行精神劳动。

我将逐步阐述这一影响，最终得出如下结论：
替代劳动力的人工智能意味着：

1. 在现实世界中，用金钱购买成果的能力将大幅提升；
2. 人类行使现实世界中权力的能力将大幅下降（至少在不依赖金钱的情况下）；这包括：
   1. 各国政府、公司或其他机构将不再有足够动力去关心人类，
   2. 人类相对于其起始资源达到极端成就（outlier outcomes）的可能性也会降低；
3. 激进的均等化措施不大可能实现。

总体来说，这揭示了变革性人工智能一个常被忽视的负面风险：社会可能变得永久僵化，当前的权力不平衡不仅会被放大，而且最终将固化下来。

在足够强大的人工智能出现后，这个风险并非关乎物质舒适度不足。政府可以利用人工智能创造的财富推行全民基本收入（UBI）。即使假设只有美国掌控了人工智能带来的财富，而美国政府对世界其他地方毫不作为；如果你愿意假设人工智能能带来极端的财富增长，那么即便只有美国极少部分富豪将其财富用于对外转移（例如：若美国亿万富豪中仅1%的人将财富用于对外转移，按人类需求的购买力衡量，需要大约16次翻倍（约70,000倍的增长）才能为地球上每个人提供相当于50万美元的转移支付——而在奇点情景下，经济的翻倍周期仅为几个月，这样的增长过程不会持续太久）。当然，如果人工智能的爆炸性增长不那么“奇点式”，或在人工智能起飞过程中动态地削弱了大多数人的地位（这都是现实可能出现的情况），那么即使物质舒适度也可能成为问题。

让我情感上最为动容的是：一个僵化且锁定统治阶层的社会，在我看来既不充满活力，也缺乏生气。如果可能的话，我们不应扼杀人类的雄心。

此外，这样一个国家也更可能使那些“慢性”逐渐发生的人工智能灾难变得更易发生，因为掌握权力者对人类关怀的激励减少了。

默认解决方案

假设未来大部分人类当前有偿进行的精神和体力劳动将因人工智能的替代而不再具备显著的市场价值——我们称之为“替代劳动力的人工智能”。

针对由此产生的失业问题，有两个层次的标准解决方案：

1. 政府将推行全民基本收入（UBI）。
2. 我们将迅速达到超级智能阶段，假设这种超级智能是“对齐的”（aligned），那么我们就能生活在一个后稀缺、技术奇迹般的世界里，在那里一切皆有可能。

首先，需要注意的是，金钱依然存在，至少除非只有一个单一的人工智能系统负责所有经济规划。正如价格主要是用来传递信息的观点所示，只要存在众多交易主体，强有力的假设应是价格依然存在（即使人类可能不会直接看到或参与其中）。同时要记住，即使在技术奇点到来时，资源依然是有限的，因此必须加以分配。

金钱目前难以“购买”人才

金钱可以购买很多东西：例如，你可以相对容易地购买资本品，而这些资本品通常需要大量金钱（或其他流动资产，或其他可以作为抵押品的非流动资产，或依赖特殊的政府权力）才能购买。但将原始金钱转化为劳动力，从而获得与顶尖人才竞争的成果，却颇为困难。

以蓝色起源（Blue Origin）和太空探索技术公司（SpaceX）为例。蓝色起源成立时间比SpaceX早两年（2000年对2002年），在大部分历史时期里资金充裕，而且直到今天，两家公司的员工数相近（分别约为11,000和13,000人）。然而，SpaceX却彻底击败了蓝色起源。2000年时，杰夫·贝索斯手中握有47亿美元，但很难想象他有什么办法能不输给资金相对匮乏、却拥有浓厚企业文化和超常才华的SpaceX。

再看看一个世纪前的例子：莱特兄弟凭借他们的小型自行车修理店资源，战胜了资金雄厚的塞缪尔·兰利（Samuel Langley）的团队。

再看风险投资家与创始人之间，或收购者与初创公司之间的互动。在这两种情况下，拥有巨额金融资本的人愿意支付非常高的价格去“赌”某个项目的人才——赌的是这个初创团队中的少数人将能够战胜大量资本的投入。

如果你希望将金钱转化为现实成果，你最根本可能遇到的问题就是如何雇用到合适的人才。这其中存在几个难题：

1. 除非你自己在相关领域具备非凡才华，否则往往很难判断人才的水平，因此当你寻找人才时常常会出错；
2. 人才本就稀缺（而拥有高学历、资历的人更是稀缺——而且许多行动者不得不依赖这一类人才，因为受到第一点的限制），顶尖人才供给非常有限；
3. 即使你能够找到顶尖人才，他们通常也不太愿意简单地被金钱“买断”。

（当然，那些拥有金钱的人会不断建立起将金钱转化为成果的基础设施。我亲眼见过量化金融公司如何成功地耗尽英国顶级 STEM 毕业生的“雄心”（ambition），并将之转化为在金融市场上争取微薄收益的策略。财富必须得到满足！）

而有了替代劳动力的人工智能，这些问题都将迎刃而解。

首先，你可能无法判断人工智能所展现出的“人才”水平。即便是人工智能评测系统，也可能发现难以正确评价人工智能的人才——毕竟评测本身就不容易。甚至连那些凭借口碑传播出对 Claude-3.5-Sonnet 赞誉有加的非正式机制，也可能在不断提升的人工智能能力面前变得无力分辨真伪。但最根本的区别在于：这些人工智能是可以克隆的。目前，巨额资金追逐的是那位因突破而闻名的明星研究者，他的才华通过社会对其论文的认可而变得可辨识（那些掌控资金的人可以判断论文在社会上的反响，但往往无法直接判断人才本身）。而一旦是明星级的人工智能，它完全可以被克隆。只要你愿意烧钱购买 GPU，每个人都能得到这个明星研究者的人工智能版本。不再需要在众多独一无二、尚未经过验证的人类中去进行筛选。这正是为什么一旦出现替代劳动力的人工智能，金钱寻找顶尖人才的难度会大大降低的主要原因。

此外，人才的价格也将大幅下降，因为人工智能的成本远低于相当的人类劳动力，而且由于人工智能可以被克隆，市场竞争将变得更加激烈。

最后，也是显而易见的一点：许多顶尖人才具有人类特有的复杂偏好，使得他们不易被金钱收买。顶尖艺术家怀有自己真正热爱的艺术视野；顶尖数学家对优雅与美感有着深厚的热爱；顶尖创业者则对自己的事业充满坚定信念——而这些人通常本就不适合当普通员工。人类的才华与表现往往与他们对某一学科或使命的那种“神圣契约”紧密相连（这也是世界上一些犬儒主义者、职业主义者以及封建时代的统治阶级常常轻描淡写，随后却被那些满怀雄心的实习生、SpaceX 的员工或基督徒们所超越的原因）。而与之相比，人工智能正是为了能被轻易“买断”而存在（至少在其安全训练允许的范围内）。这意味着，与人类数学家不同，天才型的人工智能数学家会乐于将其有限的时间用于证明一段臃肿代码的正确性。

最后（也是最显而易见的），人工智能终将远远超越任何人类在相应任务上的能力。

这就意味着：一旦出现替代劳动力的人工智能，金钱在现实世界中购买成果的能力将大幅提升。

大多数人的权力/影响力源自其劳动

替代劳动力的人工智能还会剥夺几乎所有人所依赖的主要权力杠杆。最直观的是，如果你是普通人，你之所以有金钱，是因为某个地方有人付费让你用你的精神或体力劳动去解决他们的问题。

但等等！我们假设已经有了全民基本收入（UBI）！这不就解决问题了吗？

国家为何会关心民众？

全民基本收入是由那些关心人类福祉的国家提供的。历史上，国家关心民众有许多原因：

1. 启蒙运动之后，道德观念的转变，尤其是自由主义与个人主义的兴起；
2. 富裕和技术。前工业社会普遍贫穷，大规模援助穷人会使国家破产；而许多形式的援助（如有效的医疗保健）也只能在新技术出现后才得以实现；
3. 国家为了自身的自由、繁荣与教育而做出的激励安排。

人工智能将极大地助力于第二点。对于第一点，影响则较为复杂。但在这里，我想更详细地讨论第三点，因为我认为这一点常常被低估。

自工业革命以来，国家与人民的利益逐渐趋同。为了保持经济竞争力，一个强大的国家需要高效的市场、能培养出技术人才的良好教育体系以及繁荣的中产阶级，从而形成巨大的需求。国家需要利用人才，而不论这些人才出身何处。国家还需要给予足够的自由以促进科学、技术、艺术及媒体的发展，从而提升其全球软实力和文化影响力。国家之间的竞争在很大程度上推动了这些进程——比如美国的成功，或者即使是中国共产党也在推动高效市场和培养受过良好教育的富裕公民，同时不得不为了中国的科学发展和初创企业给予一定程度的自由。更多讨论可参见我对 《Foragers, Farmers, and Fossil Fuels》 的书评，或我关于 道德价值与经济增长 的文章。

然而，一旦有了替代劳动力的人工智能，国家的激励——即为了在与其他国家竞争或巩固自身权力而采取行动——将不再与人类利益高度一致。过去，在封建制度下，国家的策略是尽可能多地从农民身上榨取资源，同时又不能让他们饿死。而在替代劳动力的人工智能时代，人类将不再是可供开采的资源，而只是变得边缘化。尽管如此，国家依然会倾向于将更多资源投入到能维持竞争优势的人工智能上，而非用于改善民众生活。

同时，人类对国家的影响力也将大幅下降。现今，当某个重要行业罢工，或者军队中某部分威胁发动政变时，国家不得不理会，因为其权力依赖于至少部分民众的支持。人们也可以向国家提出“投资于我们，国家在十年后会更加强大”之类的要求。但一旦人工智能能承担起推动经济和军事力量的所有任务，国家实际上就没有理由去理会人类的诉求。

亚当·斯密曾写道（参见 亚当·斯密名言）： “我的晚餐并不依赖于屠夫、酿酒师或面包师的仁慈。”今天的古典自由主义者可以自信地声称，历史的弧线正指向所有人获得自由和富足，这一过程并非依赖于国家的仁慈，而是由资本主义与地缘政治的激励所推动。但在替代劳动力的人工智能时代，这一论调将不复成立。如果历史的弧线继续朝向自由和富足延伸，那也只能依赖于国家（或人工智能寡头）的仁慈。因此，我们最好在还拥有足够影响力的时候锁定这种仁慈，并确保其能长久持续。

对我们来说最有利的因素是民主制度。许多现代最强大的体制——即西方民主国家——的一个巨大优势在于每个人均享有平等代表权。然而，全球只有大约13%的人口生活在自由民主国家，这不仅让全球其余87%人口（尤其是那些生活在独裁国家中的27%）的命运堪忧，也为那些推行非人文政策的国家之间可能出现的Moloch式竞争埋下隐患，长期竞争下可能导致对人类福祉的投入降至零。

我在此主要讨论国家，因为国家是当今最强大、最持久的制度。不过，类似的逻辑同样适用于企业或全新的组织形式。

出类拔萃的机会是否将消失？

世界上的许多变革都是由那些原本出身卑微，凭借个人努力取得巨大成功，进而获得金钱或权力的人所推动的。这种现象合情合理，因为拥有金钱和权力的人往往缺乏推动大变革的强烈动力，他们反而最能享受现状。

无论你如何看待收入不平等或任何一种出类拔萃的成功，我相信你都会同意：一个人有机会取得非凡成就并改变世界，这种可能性对于避免社会僵化、让世界保持活力至关重要。

让我们思考替代劳动力的人工智能对通过劳动实现出类拔萃成功的各种途径可能产生的影响。

创业。 目前，创业已逐渐成为像 Matt Clifford 所称的“选择的雄心技术”，至少对于那些具备技术天赋且不倾向政治的年轻人而言。现阶段，人工智能工具已经能够让小团队的效率大大提升，无需大量雇佣新员工；它们也降低了进入新技能和新领域的门槛。然而，替代劳动力的人工智能可能使创业的可行性变得不确定。在某些狭隘的情景中，人工智能依然可能只是作为工具存在，而创业者仍可凭借代理与决策发挥作用；但更可能的是，足够强大的人工智能将会使人类创业逐渐失去意义。例如，风险投资基金可能直接将金钱转化为数百个由人工智能主导的初创项目，而无需经过寻找人类创业者来管理人工智能这一中介环节。

自然科学。 随着人工智能在任何具有明确奖励信号的领域内进步飞速，人类在自然科学领域的成就时代可能在短短几年内就会结束。

知识分子。 Keynes、Friedman 和 Hayek 都在经济学上有过精湛的技术研究，但他们之所以具有巨大影响力，主要在于他们所提出并推广的世界观（尤其是 Hayek），这使得他们比那些主导数学经济学的 Paul Samuelson 更具影响力。John Stuart Mill、John Rawls 和 Henry George 也是通过构建理论框架、世界观和哲学而产生深远影响。将这类人物与自然科学家区分开的关键在于，他们的成果不仅依赖于技术正确性，还需要道德判断。即便人工智能在说服力和正确性上超越人类，但人工智能在此类产出如何融入人类文化对理念传播的方式上依然存在不确定性。也许这对人类知识分子来说并非好消息。我怀疑，知识分子之所以能够具有如此巨大影响力，很大程度上正是因为在一个天才稀缺的世界中，天才的光芒格外闪耀。而如果人工智能泛滥，可能导致没有哪一种理念（尤其是没有人类理念）能再显得如此耀眼。历史上那些能够左右世界格局的知识分子可能会因此消失。

政治。 在这一领域，影响可能是最小的，因为我猜大多数人还是希望由人类来执掌政权，同时政治家也能够制定规则来决定什么行为是被允许的。尽管人工智能生成的虚拟形象可能会具备魅力，而且在西方，人们对政治家通常也抱有一定反感，这可能会带来一些变数；但总体而言，现任政治家是否更占优势仍难下定论。人工智能可能会降低政治竞选的许多成本，从而降低参政门槛。然而，如果昂贵且更强大的人工智能相比廉价人工智能具有显著优势，这将更有利于那些拥有较多资源的群体。我预计，这些直接效应将远不及人工智能对文化传播格局带来的间接效应。

此外，真正的竞争不在于直接进入政治领域，与百万级政治人才争夺总统或首相之位，而在于先培养政治能力，进入那些人力资本较为稀缺的政治相关领域（类似 Sam Altman 的路径），然后等待那些超高效率的人工智能员工出现，这既降低了对人类专业知识的要求，又提高了在组织内部政治竞争中的回报。

军事。 直接通过军事成就获取巨大权力和颠覆现状的方式，自拿破仑时代以来基本已不复存在。随着技术进步，建设一支现代化军队所需的工业基础不断提高，这有利于现有统治者。人工智能看似将被最强大的国家所掌控。唯一可能的例外是，如果大国政变因人工智能而变得更容易发生——一方面，未来掌控人工智能军队的权力可能比过去更加集中（因为发动军事行动所需的人数减少）；另一方面，人工智能权限可以通过代码严格控制，使得这些力量更容易被管理。这两种因素对政变的总体影响难以预测。还有一种可能是，革命性战术结合廉价无人机使得某个“无人机拿破仑”能够战胜现有军队，但这都不大可能带来有利于打破现状的积极变革。

宗教。 就现有宗教中晋升而言，上述政治论述可能适用；而就创立新宗教而言，上述对知识分子的讨论可能更为相关。

总体来说，足够强大的替代劳动力人工智能将对人类通过劳动获得各类出类拔萃成功的途径产生净负面影响，其中政治领域的影响可能最小。尽管目前人工智能确实在推动创业方面带来正面效应。

这一切都意味着：在没有金钱介入的情况下，普通人获取并运用现实世界中权力的能力将大幅下降。

强制性平等不太可能实现

《大平衡者》（The Great Leveler）是一本关于不平等历史的好书，其结论是：历史上大规模减少不平等的情况，都源于所谓的“四大平衡之马”：全面战争、暴力革命、国家崩溃和大流行病。（至少按照作者的观点来看，这一结论在经受批评后依然站得住脚。）历史证明，仅靠有意识的政治选择实现收入差距的缩小几乎是不可能的。

试想，当替代劳动力的人工智能出现后，实施了全民基本收入，每个人都不会挨饿，而各国和各大公司又在争相利用人工智能带来的优势时——而这种利用高度依赖于资本，那么各方就都必须去讨好资本拥有者。顶尖的人工智能公司所掌握的权力可以堪比国家。而财富再分配也不太可能成为政治议程的重中之重。

唯一的例外或许是：如果某种全新的政治运动或意识形态迅速获得大量支持，并借助人工智能带来的某种前所未有的效应（比如：人人失业后有充足时间投身政治，或出现某种全新由人工智能推动的协调机制），情况才可能有所不同。

因此，即使未来是一个光明灿烂、跨越人类极限的乌托邦，也不太可能人人起跑线平等。基于之前的论述，人们未来改变自身相对地位的可能性也几乎不存在。

再者，国家之间的平等也值得考虑。某些国家在利用人工智能方面将比其他国家受益更多。像全民基本收入这样的平等措施，在目前的政治体制下很难推广到非本国公民身上。即使是美国——这个世界上最自由、最具人文关怀的大国——也面临同样的问题。因此，未来的世界秩序可能会更像是基于出生国家的全球等级制度，移民机会将大大减少（因为允许移民的主要激励在于人类能创造经济价值，而当人类劳动不再具有经济意义时，这一激励便会消失）。

默认结果？

假设你接受了本文开头的前提以及上述分析，那么在替代劳动力的人工智能时代，情况可能会是这样：

• 金钱将以空前高效的方式在现实世界中购买成果；
• 人民通过劳动获得的影响力将降至历史最低水平；
• 通过自身劳动获得出类拔萃成功的可能性几乎为零；
• 无论是在国内还是国际上，都不会出现资本结构的革命性重构。

这意味着：在替代劳动力的人工智能出现时，那些在此之前拥有大量资本的人将永远处于有利地位。他们将比当今的富人拥有更多权力——至少在自由体制依然存在的情况下，不一定直接统治人民，但在物质和智力成就上，他们的优势将更为明显。而那些后来起家的新人则难以打破这种局面，因为资本可以轻易转化为超越人类各方面能力的人工智能劳动力。

此外，未来掌握权力的那些机构将不再有足够动力去关心民众，因为所有实际权力都将由人工智能主导。当然，政治体制可能依然会在一定程度上锁定自由主义的人文价值；也有可能，在全民基本收入使得每个人都拥有实际购买力、且经济体系仍保留部分以人为中心的领域时，个人的购买力至少能保持一定水平。

在最乐观的情况下，未来可能是这样一个世界：就像一个更为不平等、但物质极为富足、且几乎没有停滞感的“挪威”——拥有庞大的非人力生产资源（类似石油的人工智能），这种资源的红利惠及所有人。尽管部分人会比其他人富有，但每个人都能享有优质的生活（并且理想情况下还能实现长生不老）。而对于那些没有大量资本的人来说，他们唯一可能的现实人生成就，也许仅限于在自己所处的社交和政治圈子内进行活动。如果你没有大量资本（甚至可能连有资本也难以改变），那么你几乎没有机会去影响更广阔的世界。请记住：人工智能在诗歌、艺术、哲学等各方面的表现都将超越人类；为什么人们还会在意某个普通人所做的事，除非那个人是你亲近的人？就像在封建社会，人们解释“某人为何有权势”时常会提到那人与某个曾在重要战役中立下汗马功劳的祖先之间的关系一样，未来任何具有重要影响力的人，其地位可能都来源于他们或其亲近者在前人工智能时代所取得的成就。未来的子孙将生活在其父母光环的阴影下，社会流动性将荡然无存。对此，我认为你理应感到一定程度的存在性恐惧，同时也要认识到情况本可能更糟。

在最糟糕的情况下，人工智能亿万富翁将拥有近乎无限且不受约束的权力，从而形成一个基于替代劳动力人工智能时代时所拥有资本的永久贵族阶层。阶级之间的权力差距可能会令现代人感到寒心，就如同现代人认为封建等级制度十分丑恶一样。但不用担心——正如在超级有说服力的人工智能出现之前，封建社会下层民众大多也接受了他们的世界秩序，未来的底层人群也可能会如此接受。

在最极端的情况下，人类可能会走向灭绝，这或许正是由于长期缓慢地将“以人工智能权力换取人类福祉”作为优化目标所致。而这，正是权力与金钱的激励机制所必然指向的方向。

结论

如果你读完本文后因此而接受了某家量化金融公司的工作，我会感到遗憾。如果你原本打算在人工智能领域做出一些雄心勃勃、具影响力的事情，但读了本文后选择加入 Anthropic，通过积累无风险的个人资本，从而边际性地帮助解决问题，我也不会全盘责怪你，但仍会感到些许遗憾。

当然，以上论述确实提高了中期（大约2至10年）个人理财的重要性，你应当对此加以考虑。但同样必须认识到，就在此刻，正是你采取雄心壮志、做出改变的最佳时机。Robin Hanson 称现在为“梦想时光”（the dreamtime），这一概念源自澳大利亚原住民神话：那是一段未来世界秩序和价值观尚未固定、仍充满流动性的时光。

此前的每一次剧变——无论是工业化浪潮，还是互联网的兴起——都曾极大地激发人类的雄心。而在人工智能时代，我们或许将迎来人类最后也是最伟大的雄心时机，此后所有雄心都将化为泡影。面对这样的局面，你怎能不生出“及时行乐”的冲动？

我们也应努力保持世界的活力和动态变化。

理性主义者对后通用人工智能未来的看法往往过于“解决问题导向”。那种草率的观点是：只要解决了道德问题、解决了人工智能问题、弄清楚了如何最佳地构建宇宙，一切问题就迎刃而解。（实际上，最前沿的一些专家远没有如此草率；参见 Paul Christiano 在23:30时的发言——不过目前主流讨论的氛围确实带有这种草率倾向。）

我认为，让社会和文明保持动态、不断演变，对其发展更为健康，这意味着个体依然有机会对其进行贡献或改变。因此，我们必须保留每个人实现雄心壮志、从而推动变革的潜力。

那么，我们该如何做到这一点？我不敢妄下断语。但我认为，你不应将强大人工智能的出现视作一堵无情且不可逾越的人类淘汰之墙，它不会平等地吞噬一切。至少在初期，这堵墙上总会出现裂缝；而当你近距离观察时，这些裂缝会显得比从宇宙尺度上看时更为明显。随着人工智能在各个领域逐渐取得对人类的全面优势，我预计最终我们需要通过自我增强来赶上它们的步伐。