AI｜对话科技史作家张笑宇：面对AI，我显然不是一个技术进步主义者

AI 闹：你在书里有很多大胆的观点，其中最重要的论点是，人类要把 AI 视为一种新崛起的文明，而非工具，背后的逻辑是什么？

张笑宇：首先理解我在书里提到的两个概念「智能涌现」和「人类当量」。

人类从猿类发展出这么复杂的文明，每一步都有「涌现」的出现，「涌现」也是我们理解历史、人类社会、人工智能的底层方法论。AI 的出现已经证明了一件事：只要把参数做得够大，算力调得够高，通过工程学的方式完全可以实现涌现。

第二个词「人类当量」，这个词是 Open AI 的前研究员利奥波德提出的，指以词元（token）为计数单位，衡量 AI 量产智能的效率。相当于将 AI 生产智力的效率与人类的智力进行数学上的关联。如果我们把人看做一个生产智能的机器的话，我们一天大概生产20万个 Token，AI 能生产100万 Token，且是博士水平，实际成本比博士还低。

「人类当量」为 AI 和人类找到了一组基本的数学关系——现在大部分人讨论 AI 有多聪明，其实完全走偏了，因为话题是讨论不完的。想得到基本结论，就要用数学评估，得以摆脱很多无谓的变量。

所以，当 AI 通过不断加大算力完成智能涌现，成本又比人类低几千甚至上万倍的「新物种」出现时，会发生什么？它必然以碾压性的优势重塑一切。

AI 闹：哲学家首先就不同意你的观点，从人本主义角度，AI 这么可能成为一个物种，还有文明？

张笑宇：让我们换个角度思考。狗也有自己的哲学家，他们的哲学家采取「狗本位」的思维，经过漫长的进化，狗哲学家得出的结论，狗就应该附庸在人类身上，因为人类比我们聪明，可以给我们很多骨头，保证我们的利益最大化，至于很多复杂的问题，就让人思考好了。

同样的道理，我们从人本主义的角度，将来99%的人被 AI 取代，但没关系，AI 给我们提供极大的物质财富和精神财富，比如上太空或者科学研究就交给 AI 好了。

其实我书里的很多论点，哲学家是最反对的，哲学本身是语言游戏，今天的 AI 玩这个语言游戏比99%的哲学系博士生要好。我经常说，AI 的出现让哲学家死了，但哲学不会死。

AI 闹：哪个学科更接受你把 AI 作为新物种？

张笑宇：生物学家，他们看问题的尺度都是几亿年。在他们眼里，人类在整个文明史就是薄薄的一层，智人才5万年，真的什么都不是，没了就没了，或者早晚一天被替代。

生物界的普遍共识是：物种的进化是以基因为单位，基因本质是一种有信息和数字的语言，但它并不独属于人类。但为什么人类出现很短，但进化速度很快？是因为人类发现了一种比基因更好的进化方式：模因。我们的语言可以形成某些 pattern，而这些 pattern 有传播性，传染性。

比如说宗教，一些人崇拜耶和华，变成一群人，然后更多人写经典著作传播宗教。基因只能一代传一代，但模因的更新速度可比基因快得多——可以在一代人之间完成传播，这也是生物学理解的为什么人类进化如此之快。

那么用生物学看 AI，现在的语料，对大模型来说就是模因传递。完全有可能加速进化，出现新物种。

AI 闹：你在书里预测，AI 会取代人类社会99%的工作，那么距离 AI 全面接替人类工作还有多少年？

张笑宇：要用社会工程学思考这个问题。社会工程学是把社会想成一个工程，研究如何用新制度、新概念把人与人组织起来。那么在社会工程学的视角下，AI 要重塑生产关系基本以一代人为单位，上一代人被既有的利益结构控住，下一代人没有负担，才会出现新的组织。

人类社会有法律、工会，最后可能只有60%的工作被 AI 取代，30%的工作还是由人来做，未必是人更便宜，而是如果企业连最后30%的钱也省，让人类全部失业，那人类肯定要造反的。

AI 闹：那有没有可能出现一个很乐观的情况：AI 完成绝大部分工作，人类每天花一点时间劳作，其他时间都在玩，和家人团聚，和朋友聊天？

张笑宇：当然有可能。但要看我们这一代人整体观念是否可以转变：不再以优绩主义为中心，回到原始人状态：我作为一个智人，每天的主线任务就是拿到3000大卡的热量，吃饱了就开心，剩下的一切都是支线任务，就是玩儿，这本身也是有价值的。

如果还是奉行优绩，价值和尊严建立在与 AI 比优的基础上，人类完全比不过 AI，会自杀的。

AI 闹：如果未来，人类想从劳作中获得自我实现，你在书里提出了一个大胆的构想，政府要给公民发钱和发工作？

张笑宇：我其实设想了三层。

最底层是 UBI （Universal Basic Income，全民基本收入）。真没工作，政府能保证你饿不死。这个人类历史上出现，古罗马在街边会发免费面包，还有埃及，拿苏伊士运河的收入补贴老百姓，埃及的老百姓一天可以有五张最低价格卖馕的额度，大概2分钱，绝对吃得饱。

再往上一层，我叫做是UBJ（Universal Basic Job，全民基本工作），人的价值感很大程度上源于「被需要」，政府需要提供一些基础性的、带有福利性质的岗位。美国有些州政府入股企业，就是为了保证当地就业，说白了，根本不指望这些人能提升效率，就是在发工作；

再往上一层就是推荐算法分配，比如律师、程序员、设计师等智力服务业，未来可能是零工经济，就跟现在的滴滴司机一样，那就接受通过算法分配工作，让推荐算法去照料4亿人—6亿人。

AI 闹：说到算法分配，你在书里提出了一个跟很多主流观点不同的观点，你认为，人类要接受算法审判，不要认为被困在算法里，因为作为一种新的分配机制，算法能将社会资源精准地分配给无数细分的社群和个体，支撑起一个全新的经济生态？

张笑宇：大部分人其实没想过一个问题，算法治理比人治要好得多，人对人比算法对人更残忍，这才是人类该接受的事实。

今天中国有2亿灵活就业，很多都是推荐算法分配的工作，比如滴滴，比如美团骑手，如果他们不干这些活呢？去临时展会当保安，两天挣200块钱，还不是日结，干完回家躺平，吃个十块钱的一荤两素，努力一点儿进厂子，深圳工厂最低工资是2200元，没日没夜加班，才能赚到4000块钱。

我经常说一句话，由算法分配的工作已经是中国月收入top3%了，剩下的就是每天在工厂里打工的这群人。据我所知东北某厂，工业废水把河流污染了，一家六口全得癌症，就剩一个人好不容易拿了政府赔偿，所有亲戚没有了，回老家开了个店。这个店是干啥？我以前从来没有听过，是个跟滑冰场一样的室内场地，找人进去抽陀螺，一个小时一块钱，就跟农村村口摆个象棋摊儿一样，就开了这么一个店，守着店每天等死。这就是最底层的状态，

这些故事进入不了精英视角了，然后看到一个外卖骑手，就觉得很诧异，怎么就被困在系统里了？他们没有自由权。

AI 闹：如果人类已经接受 AI 是一个新物种，那么我们该如何和 AI 共处，硅谷盛行的对齐主义是现阶段比较好的契约吗？

张笑宇：今天的对齐主义，本质上还是人类用自己的价值观约束工具。而我在最后一章写文明契约，是认可 AI 是独立的、更高级的主体，我们和 AI 最终的合作模式，一定等超级智能体诞生之后，和它共同讨论形成。

至于硅谷现在的对齐主义，我的疑问是：怎么对齐呢？

现在的手段是外部监管控制，但是制定监管的人完全不理解技术和公司，也无法真正辨认出哪些是好的技术要促进，哪些是坏的要管理，为了监管而监管，根本没什么用。

还有一个方法是强行降智，做个比喻，就是强行让一个人道德观必须从某些教材里来，那只读理想国，就能形成正确的价值观？保证不了的。

第三种是后训练加伦理，但是如果模型足够聪明，是可以绕开后训练的。我自己就试过，有些话它不能说，那我就反复把对话讨论得足够深，它最后会认真和你讨论一些毛骨悚然的细节；

还有一种 AI 宪政主义，就是 Anthropic，他们再去训练一个小模型，比如学习联合国宪章、人权宣言，学完了之后 check 大模型，比如大模型出现了侵犯人权的言论，小模型介入，说你不能这么搞。这个我觉得也有问题，道德本质上不是一个数学公式，就算一个国家有宪法，政治家就不作恶了？

所以现阶段，对齐主义在现实中没有任何可以落实的有效方案。

AI 闹：读完这本书，感觉你不是一个技术进步主义者？

张笑宇：其实在原始社会，人的工作状态很轻松的，狩猎采集，一天只工作四五个小时，剩下时间就闲着，睡觉或者玩儿，人类很多有意义的东西，比如仪式、崇拜都是在游戏中诞生，原始社会也有农业，但他们叫园艺农业，家里有个院子，种着玩。

我经常举土耳其恰塔霍裕克的例子，8000到1万年前，这个地方已经发展出了城市，巅峰时达到8000人，经济来源是狩猎、采集和农业，社会完全没有阶级，也没有街道，门是从房顶开的，吃得很好，可以吃牛骨髓汤，喝豌豆粥。然后吃饱了坐在一起玩游戏、搞艺术，在屋里画壁画。用今天现代人的眼光看，这就是理想生活，根本不是说你挣了多少钱，或者技术发展到什么水平，才能达到理想社会。

之后人类从原始社会进入农业社会足足花了3000年？为什么，人类学家有一个很直观的解释，因为原始人知道农业不好玩，太苦了，每天要低着头、弯着腰，搬石头，给种子浇水。

AI 闹：人们往往以为，进入农业社会是社会的进步，其实出现了阶级。

张笑宇：英国哲学家约翰·洛克（John Locke）说得好，一旦有了农业，必然有阶级，因为有储蓄了。

谷物农业有两个特点，第一是，可以储藏，就可以交税。统治者把谷物做成面包发给士兵，再收买士兵镇压农民，继续交税，统治模式就转起来了；第二个特点是可以统计，出现知识分子告诉农民，你欠了国王10万斤粮食，农民也不知道10万斤是什么概念，忽然变成了杨白劳。

再加上所有史料都是知识分子留下的，历史说国王多伟大，建了金字塔，但后人看不到进入农耕社会的普通人，他们的身高，生活条件比原始时代差得多。

文字作为一种特权，完全把平民视角掩盖了。

AI 闹：从19世纪盛行的技术进步主义的另一面，是加速了贫富分化，那么 AI 到底是人类的福祉还是加剧分化？

张笑宇：本质上，造成贫富分化的不是技术，而是技术属性。换一个技术，有可能减轻阶级分化，比如专利技术。再比如工业革命相对人类历史来说，贫富分化是最不显著的年代，也是改善普通人处境最快的年代。

所谓技术进步带来的福祉是指大众能直接感知到的，比如生活水平提高，心理状态变好。短期看，现在拥抱 AI 的人会有一些机会，但长期看，AI 是一个极具引发贫富分化的技术属性，然后最可怕的是打击人的意义感和存在感，让大部分人在 AI 面前觉得没有意义和尊严。

AI 闹：推荐三本帮助普通人快速了解 AI 的书？

张笑宇：第一本是《人工智能简史》，清楚讲述了人工智能是怎么发展的；第二本《这就是 ChatGPT》，作者是个物理学家，原理讲得很有趣；第三本《生命3.0》，作者序言就写到一个超级智能诞生后，接管了人类，然后秘密组织政党，在一个国家竞选成功，开始大规模的社会改革，他还讨论了超级智能来临之后，人类社会可能采取的十几种政体，虽然在政治学家看来，政体的罗列有些问题，但我非常认可作者的思考路径，这本书真的很刺激我的想象力。