“这轮AI洪流将带我们走向何方？” 天天观焦点

点击上方海报收听音频

(资料图)

完整版视频可拉到文末查看原文链接

本文为《技术的社会面》AI线上系列沙龙的第一场圆桌“奇点来临众生相：新青年的新常态” 的文字版记录。

分享嘉宾

陈楸帆，中国更新代代表科幻作家，“中国的威廉·吉布森”，现任中国作家协会科幻文学委员会副主任。北大中文系毕业、艺术学院影视编导专业双学位。作品曾多次获中国科幻小说银河奖、全球华语科幻星云奖最佳长篇小说金奖、科幻奇幻翻译奖短篇奖等国内外奖项。曾任职于Google，百度。为北京诺亦腾科技有限公司(Noitom Ltd.)品牌副总裁，专注于动作捕捉技术。并频繁受邀出席各类公众活动，发表于科技、科幻、媒体、影视相关领域的见解观点。

陈飞樾，麻省理工获建筑与城市学硕士，沙丘研究所联合创始人之一。从事城市设计的研究与实践，学术兴趣包括公民文化、集体记忆以及互联网与媒介，尝试透过这些视角审视当代城市问题。

李雅伦，哈佛建筑学硕士，艺术家与建筑师。作品探索日常与幻想、真实与想象、建筑与叙事之间的界限，研究兴趣包括城市住房、集体生活和后人类世界的个人身份。

Strayn（主持人），706北美联合创始人，Eightfold AI数据科学家 / Lead Engineer。主导模型去偏见和大数据平台等项目。关注社会发展和个体生存状况之间的关系，曾在706发起《技术的社会面》、《空间、记忆和语境》、《迈向星空》系列沙龙。

圆桌内容

这次的AI事件你们是如何接触到的？

这一轮热潮跟之前的web3、元宇宙有什么区别吗？

陈楸帆：

我觉得这波热潮是从去年11月30号ChatGPT上线开始引起的，为什么我记得这么清楚，因为那天是我生日。从那会儿就开始铺天盖地的国内外的信息轰炸。当然我觉得国内跟国外的焦点还不太一样，国内主要是焦虑——我们自己该做些什么？怎么去赶上？怎么做中文的大模型？国外更多地在讨论这东西背后的技术、伦理、风险等问题。然后关于它产生了很多线上线下的活动和探讨，到现在差不多也有半年了，大家对此也有点疲劳了。我觉得现在可能到了一个阶段，就是尽管大家对此感到有点疲劳，但是又可以在之前的那股热乎劲儿过去后，冷静下来，真正地去思考这东西到底会往哪里走，会给我们带来什么，我们每个人该有一个怎样的“最小单元的行动指南”。我现在可能会更关注这个方面。

陈飞樾：

我觉得在19年、20年、21年，大家好像都在不断地寻找，在移动互联网的渗透率已经达到一个非常高的水平之后，这项技术又该如何获得一个新的迭代的机会？

比方说，单板式手机已经做到极致了，已经是4K、120Hz刷新率、2000尼特之类的高配置了，配置参数就算再往上升，人眼也感受不出多大的区别了，所以就必须要找到像折叠屏这样的新玩法，可以继续去迭代更新这项产品。互联网好像也在经历类似的事情。我觉得之前的元宇宙、Web3好像都是在试图找到一个新的词、新的概念，把一些正在发生的、正在演进的技术归拢到一起，然后就把它称为一个新的时代。但你会明显感到，之前的Web3和元宇宙似乎只是停留在对未来的某种期许的层面上，可AI这一波不同，你会觉得它给更多的在创投圈科技圈和了解最前沿技术的圈子以外的人，造成了更加实质性的影响。

因为它（OpenAI）已经把这个产品直接干出来了，你可以直接使用ChatGPT，你能够感受到“我让它干了什么事，它给我的反应是什么样的”。所以，之前我的第一反应是，这会不会又是一个“假新鲜”？但是最后发现，好像这一波可能会比元宇宙、Web3来得更实一些。这是我的一个感觉。

李雅伦：

我很同意。我们设计师最早接触到的AI，可能比现在GPT这波要更早一点，毕竟我们接触图像较多——Midjourney、DALL·E 2这些图像生成AI先出现，那个时候在设计和图像创作的圈子里面已经有很大的水花，但是没有达到现在人尽皆知的程度。

我也觉得，AI是一个比元宇宙等更普及的，让大家都感受到变化的技术。现在我们身处其中，很难知道未来AI会怎么发展——目前构想的这些技术中有哪些会成为新的互联网，或是会变成互联网时代中一些其他的产品。但是现在大家的感受是，AI或许是比互联网对人类更有冲击的东西。为什么这个东西冲击力这么大，我觉得可能是人一直觉得创造力是只属于人的，包括有意识、能有意识地对话，这些都是我们觉得把我们和其他生命体区分开、甚至强于它们的属于人类的一些特性。可AI在一定程度上挑战了这一认知。我觉得ChatGPT和AI的对话能力特别令人震惊。

之前我看了一个名为"Infinite Conversation"的项目，它模拟了齐泽克和赫尔佐格这两位哲学家的对话，对话非常有哲学性，而且可以一直不停地进行下去。当我观看这些对话时，我几乎分不出到底是人在对话还是AI。但是当我自己与ChatGPT交流时，我还是会将它视为一个装得非常像人类的AI。

我觉得我无法真正将它想象成一个活生生的人与之对话，我也不知道为什么。可能是因为我经常给它布置帮我写邮件之类的指令性任务，让我不太愿意把它当成一个真正的人类。或许也是因为你对这个AI有一定的了解，所以无法把它想象成一个人类。

陈楸帆：

我先回应一下之前为什么说这一波的AI让所有人都感同身受，仿佛身临其境。比如在洛杉矶，在我住的附近，你经过好莱坞的时候，会看到一些编剧工会正在示威。其中一个重要的诉求就是不允许AI来替代人类编剧进行创作，这也是谈判的一个条件。

目前还不确定谈判的结果如何，这些编剧还在与各大平台和制片公司进行讨论。我觉得这是一个非常现实的问题，编剧们已经认为AI会对他们产生威胁，过去一个专业的编剧可能会被取代。

上个月我回国，见到了很多三年没见过的老朋友，其中包括一些从事科技创业的人，比如曾经围绕App Store模式的一些创业公司。他们都非常焦虑，因为他们觉得AI是一个全新的流量平台，有可能App Store这样的形式会被取代，最终只剩下类似于聊天机器人的界面，你可以直接通过对话来调用需要的应用，使用相应的插件。

所以我其实能感受到AI对各方面的冲击。

之前我们所经历的AI更多是内隐式的，比如在开车时使用的GPS，实际上也使用了AI技术，还有很多网站上的推荐算法，也是AI的一种应用，但它们并不是你可以直接交互的界面，更多是在深层次的AI算法中运行。

但是在ChatGPT时代，它被推到了前台，成为每个人都可以使用的对话方式，也就是说，每个人都能够零门槛地与AI进行实时互动和对话。这种震撼完全不同于之前的层次。所以为什么大家，包括你在内，可能见多识广，你本身也从事技术和数据科学工作，但你仍然会被这个AI所震撼，甚至会发朋友圈。我想对于更多的普通人来说，这种冲击更加显著吧。

人与机器在本质上有什么区别吗？

陈楸帆：

我认为人和机器的差别并不是特别大，因为我们也是利用我们所读过、所看过的东西，以及我们的一些经历，将这些信息重新排列组合，然后创造出一些新的东西。

实际上，我认为与GPT的原理相比，我们并没有本质上的区别。区别可能在于我们拥有具身体验和长程记忆，而这一点目前在GPT上尚未实现。最重要的是，我们可能有一个本体、自我意识，也就是说，我们知道自己与其他个体的界限在哪里，我们知道自己与世界的界限在哪里，然后我们会产生一种由内到外的、递归式的信息的回环。

但是现在我感觉ChatGPT还没有达到这一步。首先，它没有身体——当然，它有多模态数据的输入和输出，但是这种多模态基本上还是比较单一的，与我们使用触觉、味觉和听觉等感官有所不同。此外，还有一些我们甚至无法很具体地描绘出来的感官体验，它目前还没有。不过，我觉得随着插件的引入也许能近似地创造合成感官体验。

其实最近一周我们在山里，请了很多科学家来讨论collective intelligence（集体智能）的问题，其中包括后人类主义的奠基人凯瑟琳·哈尔斯（Katherine Hayles）。她给我们分享了一些见解，我们讨论了GPT是有感知的？有认知的？有智能的？实际上，我们需要非常细致地区分这些概念。目前在我们讨论问题时，很多概念实际上是非常模糊的，比如人的感知、认知和智能到底存在于哪个层次上？我们倾向于认为它不是一个有或没有、0或1的状态，而是一个连续的光谱。它可能在0到1之间，可能是0.75等等。如果将人作为1的参照标准，那么我认为这可能是GPT的一个状态。这是非常有趣的，但目前还没有定论，大家一直在激烈地争论中。

Strayn：

GPT好像是通过反向传播算法（BP）训练的，它是一个在训练中成型的模型，而不像人一样与真实的世界存在交互。它与人体验世界的方式非常不同。

陈楸帆：

没错，实际上它与儿童学习语言的过程非常相似，它们都是索引式的学习。但区别在于，人类的孩子是具身的，通过与外界的身体接触、听觉等来建立对世界的模型。但是GPT只有一个模型，它将语言符号转化为向量，将对世界对理解变成了数学模型——它是对语言的建模，而不是对真实世界的建模。

陈飞樾：

我记得我和雅伦之前在沙丘上也写过一篇关于"robot"这个词的考察文章（这个词的原意是‘奴隶’）。写那篇文章的时候，我们讨论到，特斯拉发布了他们的人形机器人，然后人们对此有很多反响和批评，其中一个声音是，为什么非要造一个人形的机器人？之前在60、70年代的时候，人们确实想象了各种家庭机器人、家庭主妇机器人，或者是你的汽车司机机器人——实际上，这些都已经实现了，只是说它们不是人形的——你的洗碗机、烘干机、扫地机器人等等，它们是我们隐形的、被工具化的存在。

现在我们谈论的许多AI技术实际也进入了家居电器等工具中。当然，并没有汽车驾驶员机器人——为什么要造一个坐在驾驶位上的人形机器人呢？直接让汽车本身成为一个机器人不就行了吗？特斯拉本来也是这么做的。所以当特斯拉宣布要制造人形机器人时，很多人觉得，几十年的经验已经告诉我们，“人形”与效率无关，甚至可能相反。

但我们似乎又发现，GPT的出现证明了，我们确实需要这样一个东西，它足够像你。像我们之前说的汽车AI，它可以判断周围道路的情况，哪里有自行车，哪里有大货车，这是非常令人印象深刻的技术，但你仍然将它视为一种工具（像刚才说的内隐式的存在）。但如果它出现了一个对话式的界面，你可能突然感受到，嗯，就像是在照镜子，好像它也有了一个人形——虽然还不是具体的人形（身体）——但从这个线索中似乎已经也出现了一种“类似于人形”的时刻。我认为这与它突然产生的爆炸性传播有很大关系。

最近AI孙燕姿很火，

各位怎么理解AI取代人类歌手这件事？

陈楸帆：

我觉得这个事情肯定有很多层面可以看。首先，为什么大家会认同这个AI？是因为它模仿了孙燕姿，而孙燕姿本身是一个人类歌手，它已经有了集体记忆的积累，这是社会文化上的积淀，是历史上的积淀。如果没有这些，它也不会变得火爆，最多只是一个唱得不错的AI，它并不能代表任何一个人。它最大的争议在于，以后是否真人的孙燕姿可以不再出现，而虚拟的孙燕姿可以无限制地存在。你可以让它唱任何歌曲，而且它永远不会老，对吧？它可以永远这样唱下去，成为永生的孙燕姿。你可以将这种情况理解为在数字意义上的永生，数字化的不朽。

Strayn：

更像是一种囚禁。

陈楸帆：

对，每个人对此会有不同的解读，但如果考虑演员这个例子，莱姆有一部特别有名的小说《未来学大会》，小说讲的是人类演员被完全数字化，你的所有表演实际上都是虚拟的，你随时可以调用它们，让它们扮演任何角色。这样的话，真人演员实际上就不需要演了，如果好一点的话，他们可以坐收渔翁之利，可以一直获得回报，他们的后代也可以这样获得回报。但也可能不好，这个知识产权可能不掌握在演员自己手中，而是在数字化公司的手中，他们可能被用来演出色情片等等，他们完全没有反抗力，这是另一种未来。两种未来都有可能存在。

Strayn：

你会把自己上传成虚拟人吗？

陈楸帆：

为什么不呢？这样的话，我可以用虚拟人身份参加所有的在线活动，可以同时参加几百个活动，对吧？而且如果能够从中获取收益的话，那当然最好不过了。

Strayn：

但是如果这样，你不担心当你真正以本人身份出现时，大家可能觉得你无法达到大家对虚拟人的预期，虚拟人可能会有更犀利的观点，你怎么看待这种情况？

陈楸帆：

但是有些事情虚拟人做不到，比如握手、拥抱，我可以有实体的互动。

Strayn：

你可能会有机器人。

陈楸帆：

对，当然你可以无限地推演，假设它已经能够与真人毫无二致地互动，那它与你也没有什么区别，对，它就像是你的克隆化身，只不过它是硅而你是碳。

Strayn：

雅伦，你会把自己上传成虚拟人吗？

李雅伦：

我觉得我可能会，但我想在未来，通过上传，你不仅可以让它帮助自己完成工作。我想象通过上传，你自身可以获得更多的东西，可以接入更大的网络，或者像楸帆老师之前说的，接入一个整体意识，这可能是我期待的。

Strayn：

但是那个还是我吗？当你提到我的时候，指的是哪一个我？

李雅伦：

我觉得这是一个非常有意思的问题，我觉得现在没有人能给出确切的答案，我们还不理解人类的意识到底是什么。我更倾向于未来人类式的观点，就是我不把自己看作与其他生命有太大不同的存在，而且我也认为，通过某些改变，我可以体验到不同的状态，这是我向往的。

陈飞樾：

我们之前讨论过关于AI偶像的图片推送内容。我其实可以想象出这样一个未来——我并不是非常期待或喜欢这样的未来——但我觉得它与我们现在所谓的资本制度非常契合。

现实中的偶像是有情绪的，会衰老，可能没有注意形象管理，可能会有问题，他们可能在不该吸烟的地方吸烟，也可能被拍到与不该走在一起的人一起走，会有很多不可控的变量影响经纪公司将其作为成熟稳定的商品。

但如果你将其变成AI，完全数字化，令其处于可控的标准化范畴内，TA不会变老，也不会出现任何问题，TA的收入也可以很低，你只须为TA交电费。

当这个AI偶像的影响力越来越大时，TA也不会飘，也不会开始说一些过分的话，也不会开始想要在微博上发言。对于经纪公司来说，这一切可能让他们觉得太棒了，为什么还要养一群真人，让自己天天提心吊胆呢？

如果将之视为一门生意的话，你要这么去算账，它太好算了。但当然我会觉得，当它成为无处不在、压倒性的存在时，人们对其反面的兴趣也会产生。如果所有的偶像都是AI，我觉得公众对纯粹的真人偶像的兴趣将重新燃起，因为当它无处不在时，可能反面也就出现了。

我其实很想听听楸帆对这个问题的看法或期待，就是网络空间的言论场域或对话会因为对话机器人的介入而发生怎样的变化？

陈楸帆：

其实今天我们讨论的很多话题，在我与开复合著的《AI未来进行式》中都有故事在讨论。虚拟偶像和Deepfake等问题，这是一个必然到来的现实，当我们肉眼无法区分AI和人类创作内容时，将产生很多混淆。我觉得现在已经接近这种状态了，你看Midjourney生成的照片已经能够参赛并获奖了，对吧？

我觉得未来肯定需要几个方面的发展。首先是技术方面，比如数字水印，可能需要一个AI free的标签，以便在很多内容上验证是否经过AI参与创作，或者标明未经AI参与的内容。

比如GPTZero，GPTZero能够帮助许多教育机构辨别学生提交的作品是人还是机器写的，这方面已经非常成熟。我试过，效果还不错，提交后会告诉你有多少百分比的可能是AI生成的。

未来，我在故事中写的是大部分网站可能需要一种反Deepfake的过滤器或检测器，需要用技术手段防范。如果检测到使用了Deepfake技术，可能不会让该视频上线，或者会给其打上标签，类似于Twitter现在的虚假信息标签。

现在确实还无法做到。另外一个层面就是法律法规了，比如所有这些工具在生成内容时要嵌入一些数字水印等规范和标准。需要从法律上进行规范。如果你不遵守规定，违反了法律可能会被罚款，甚至可能取消从业资格等，需要从制度层面防范。

至于灰色产业，实际上是成本问题。如果你要攻破一个加密钱包，肯定也有办法，只不过时间和金钱成本很高。如果你要制作一个无法被识别为假的东西，肯定也有办法，但你需要投入很大成本，那么你觉得值得这样做吗？

在社会层面，

各位有哪些观察？

陈楸帆：

我觉得国内外对此的态度真的完全不同。国外其实非常忌讳谈论这个问题。如果你说你在写作中使用了AI，可能会被视为异端，很多人可能会排斥你的作品，抵制你的书。

但国内非常开放，他们愿意接受这种技术，甚至觉得它是一种噱头。甚至我下一本书的封面也可能会用midjourney制作。国内并不认为这个技术存在伦理或知识产权方面的问题。

从整个历史来看。我们本来就没有批判技术、反思技术的土壤。我们所有的技术，实际上你可以看到，都是在改革开放之后的这40年里涌现的。我们还没有来得及进行反思，没有来得及深入思考到底有哪些是好的、哪些是正确的。

而且中国人因为这40年的快速发展，下意识地认为技术可以带来生产力和生产效率的提升，带来便利，让每个人过得更好。我们下意识地认为这样。包括我们父母那一代，他们可能非常积极地拥抱这些技术。

相比之下，我们在反思方面的东西肯定要少得多。因为你知道，在国外，例如法兰克福学派等，从那个时候开始，他们就非常警惕技术所带来的对人本主义的冲突和影响，这一直是一种流派。但在中国，这样的探讨实际上是最近十多年才有比较主流的影响。

陈飞樾：

我和雅伦之前也聊过一个事情，我记得在20年还是19年的时候，当时好像深圳有一个做基因编辑的（贺建奎），他修改了一对双胞胎的基因。

他那个事情出来之后——就是孩子已经生出来了之后，我们的很多媒体也跟进报道，说这是“世界第一个”，其他团队都没有做，只有我们做出来了！等这个事情开始渲染得越来越大，公众开始给出反应了，诶，不对啊，这事不能随便搞啊，你说孩子生出来就生出来了，以后（才发觉这个基因编辑技术）有毛病怎么办？难道以后不让TA结婚，不让TA生孩子吗？要是过了五代之后，才出现问题，你要诛他们九族吗？你会发现非常多的伦理问题。

这事儿就很说明问题，和我们现在AI技术在中国的处境很相似。好像大家觉得这事没什么不能做，啥都可以啊，只要技术到了，干就是了。这种对技术非常单向的崇拜似乎伴随了我们40年。

不过再换个角度来看，我最近在思考是否因为整个东亚在职场经济、社会发展高度内卷的问题上可能比西方更加严重，所以会特别期望一个新技术的降临，然后我们立马就可以从缺乏在本质层面上跃升的内卷平台期内，找到一个新事物来创造新的工作，解决中等收入陷阱问题。这种经济内卷的焦虑带来了对新技术快速产生实用价值的迫切感。

Strayn：

你提到的内卷这个点特别有意思，这个玩法是否会反过来质疑内卷模式本身？之前的几百年里我们发展技术是对的，但这能说明它永远都对吗？或者说人类的意义仅仅是技术发展的推动力吗？如果这样去看，不能对技术发展有贡献的个体的生命价值似乎丧失了意义。

李雅伦：

这些问题海德格尔也谈论过很多次，但似乎现在看来我们依旧不会放弃技术的革新，会一直不停地追逐技术的发展。我有时候觉得AI的出现好像没有很强的目的性，不是说我们为了达到某种更理想的乌托邦、更好的社会结构、更好的生活，所以要去发明一个工具来达成它，而好像是我们为了证明自己可以进行技术的革新，可以做到某些东西，而去追逐一个未来产生的产物。

假设人类可以整体停下来，思考这个东西是不是好的、应该追求的，或者说如果你能让我停下来，我就是更愿意过之前那种更平和的生活，其实会是一个很好的事情，不过我并不觉得我们可以做到（停下来思考）。

我会认为可能从文艺复兴开始的很长一段西方历史中，人被完全放在神坛上，我们比其他的生物或生命体都强，但这里指的“人”其实很多时候指的是“白人男性”的身份和主体。我可能会对后人类感兴趣的点在于，通过现在的各种技术包括AI的出现，来达到的一些其他生命的可能性，以及和动植物这些已经存在的生命更平等的生活在一起。这些东西的出现会促使自己重新思考人类是否是完美的？创造力是否是人独有的？

但从整体上来讲，我可能对未来确实是比较反乌托邦式的想象，我认为技术如此发展下去并不一定会通往很美好的世界。一定程度上，现在的很多技术让我们的生活质量得到了很大提升，但我也很好奇我们的幸福感是否真的很高？比方说AI出现了，大家都说很多无用工作都不用再去做了，但我周围大部分人的反应还是觉得很可怕，感觉自己要被替代了，相当焦虑。

陈飞樾：

“无用的工作没有了，就没有我了。”

人是由工作界定的吗？

李雅伦：

我觉得我们现在完全是被无用的工作界定的。

陈楸帆：

我觉得这个跟AI没太大关系，这其实跟社会制度、整个资本主义的逻辑框架有关，它强迫每个人进入它的价值体系，你是被你的工作、收入、消费等等一系列的可以用物质或者用数字量化去衡量的这种等级结构来标注的。所以我觉得其实不能怪在AI的身上，但AI可能会加速这个东西的崩坏。

刚才雅伦说到的后人类世界也蛮有意思，因为和去西方中心化，包括去盎格鲁-萨克逊这种白人中心主义的历史进程，以及女性主义的思潮都有关系——例如一些最早做女性主义的学者最后就慢慢转型到了后人类。其实中心没有变，我们不断再去寻找新的中心，或者是更加去中心化的状态。

我们今天在评审项目的时候，有一个项目是建立一个全球式的大模型，但它有一个感知的层，包括它输入的多模态的数据。现在我们说的一些大语言模型以及视觉模型都还是非常人类中心主义的，因为这些图片其实都是以人的标准拍摄下来的，它在人的可见光谱范围之内才能被拍摄到。但像动物、植物、海洋生物，它其实是在次声波或者超声波的范畴，甚至是紫外线或红外线这种对人类来说不可见的光谱内的。所以怎样把这些数据都做成一个数据集，去训练这样的一个模型，把它变成一个去人类的大宇宙模型，然后用这个模型再来做些什么，而且很多的技术细节也都在被讨论，这个可能是我现在更感兴趣的。我们接触了很多研究科技、哲学的，大家的想法我觉得已经非常超前了，可能比科幻还要超前很多，但问题就在于如何落地？其实可能短时间内它是无法落地的，只是做一个思想实验，我觉得还是很有意思的。

Strayn：

是否可能有一种“劳动关系的合谋基础的崩坏”。

过去人可以通过接受教育，获得发明技术的能力。而这种能力不仅仅掌握在少数有钱人、或掌握社会资源的人手中，也因此“屁民”和社会资源的持有者存在一种合谋关系。

但现在好像在AI的发展之下合谋的条件没了，“屁民”的利用价值也丧失了。这似乎会改变当前的劳动关系，甚至有可能改变人口结构。毕竟让机器人去替代人类生产似乎在经济层面是更好的选择。

陈楸帆：

其实大家已经没有共识了，资本家的共识已经不构成我们这些“屁民”的共识了。

陈飞樾：

我上个月在读《万历十五年》，这本书的出版时间大概跟现在的AI时代差几十年，所讲述的内容更是跟现在差五百年了。但在读的时候，特别读到中间某个部分时，特别强烈地产生了一种好像万历年间的事情可以和现在正在发生的事情相关联的感受。

我给你们念一小段，书里说：“（万历十五年里面）一个非常庞大的朝廷养了一个文官系统，皇帝必须委派五六名司礼监中的太监作为秉笔太监，由他们仔细研究各种题本、奏本来，向自己做扼要的口头汇报。”

因为皇帝每天要阅读大量的奏章，这些奏章都写得非常的漂亮，但是文字非常冗长，要说个事儿，会把它放到一个非常复杂的叙事里面，再加上各种各样官员描述自己的问题，他老妈要怎么，他老爸要怎么，就像《陈情表》那样。因为这个事务的出现，就必须要有秉笔太监这样一个新的职位，秉就是“秉烛夜游”的秉——拿着笔帮皇帝筛选信息的秉笔太监。

这个巨大的文官系统和它做事的方式，就让我很有一种用GPT的感觉。比方说我和雅伦我们要去个什么地方，我们订个酒店，然后我们去不了了，要取消酒店。我其实就想表达一句：“我要取消，你把这钱退我”。我就让GPT给我写一篇500字的非常优美的Email文章：痛陈我们如何的辛苦，如何的不方便，如何的经济也不好，然后求你能不能把这个钱退我。

我把字交过去，可能对方也不读，他就又扔回GPT里面说：你给我过滤一下信息，最后过滤出来就一句话就是：“我们不来了，你把钱退我吧。”老板得知后，他想跟我说：“我们只能退一半，很不好意思”。其实也是一句话，然后他又让GPT给我写500字发给我，然后我又给他过滤出来只剩一句话。

最后，其实人和人之间的对话就那么两句话的事儿。但是因为我们的礼仪这个窠臼性的问题，我们就让GPT在里面为我们扮演一个秉笔太监的工作。

我觉得我们讨论的（劳动关系的合谋基础）“崩坏”，和我们的合约关系中的摇晃，它还是在一个资本主义的框架里面。但比如说，我们问：AI对效率的提升，包括对普通人工作的取消，它会不会影响到国企中的职位？因为国企好像既处在一个全球性的资本主义体系当中，又可能延续着明朝500年以来的这种文官系统。

当我们去讨论AI如何增加效率，如何取消普通人的工作，我们还是在一个非常西方的职场环境里面在讨论的，但如果你把它放回中国源远流长的文官系统里面的时候，你发现它要的就不是快。它的缓慢、它的冗长、它的复杂，就是它的一部分——必须要这么多人，花这么长的时间，来做这么一点事，长官才能感受到它那个权力。你如果告诉他，我们就给你配三个AI，你这事就完了，不行，他就要300个人，然后花半年的时间完成同样一件事。

李雅伦：

我觉得西方也拥有这样的传统，官僚的体系和一个非常冗余的系统，比方说西方的法院系统，卡夫卡描述的“永无止境的法院”。我觉得在任何国家和任何体系当中都存在这样子的一个东西，而且它永远都是和权力机关紧密相连的，我觉得权力的体现需要这么一个系统，可能一定程度上，这种对人的控制和掌握其实是它所需要的。这个系统的功能性可能被AI取代，但这种对人的控制的真实感能不能由AI替代，就不一定了。

陈楸帆：

对，其实联合国AI治理大会已经在清华开了得有两三年了，AI治理在中国已经有很多试点。杭州的城市大脑是最早的试点，是由阿里研发的，目前全国大概有500多个城市或者区县，都在建立自己的城市大脑。

为什么要建城市大脑？因为数据量越来越大，你单靠人，靠各级的官僚体系，已经没有办法做出全面的掌握、分析和决策了，所以就必须借助AI的力量，它给出有限的选项，人从里面去选，但你也不知道这个选项到底是怎么个局部最优解法，还涉及到各个城市大脑相互协同……我反正觉得这事儿挺难的，就是从一个工程的角度来讲，我觉得短期内不太能够实现。就挺有意思的，某一个节点上你会发现，所有人都以为自己有人类的自主决策权，或者说自主意识，但其实发现很多部分已经偷偷让渡给了机器，你只是在机器给你的1234选项里，你选出你觉得比较符合人类利益的——但可能这些选择过程已经被机器计算到了，他就知道你会选c，然后他给你一个c。

我觉得未来可能会是这样子，我们都生活在幻觉里。

Strayn：

“机器能做很多事，但他没办法替人坐牢。”

机器会让人失业，

还是会带来文艺复兴？

陈楸帆：

我现在看的是《道德经》。我们这些人、科学家、哲学家坐在一起，我们觉得道家思想还是非常伟大的，因为它有一种超越二元对立的思想。人或者机器，它其实还是非常二元对立的，但就像你说的，可能它就是一股拧成一块螺旋式上升的，是“你中有我，我中有你”的这种态势，共同进化。我们在山里开会的最后那天，Katherine hayles提出了一个叫Technosymbiosis， “科技共生”，就是人与AI技术的一个共同进化。未来的态势，技术在帮助人类进化，人类也在帮助机器进化，最后是协同的进化。

进化能不能达成一个最优解，我觉得很难说，因为人跟机器都需要消耗能量，都需要电，都需要向自然索取，榨取物资，最后有可能会造成整个地球的不可持续性。所以最关键的是，如何去打造一个可持续的未来。我觉得这可能得回到道家的思想——“无为”，很多事情不做可能比做好，顺其自然可能比做很多事要好。

Strayn：

中国不做美国做。

陈楸帆：

我们现在的讨论也是在二元对立的这样的思路里面，反正不是你死就是我活对吧？总得活一个对吧？最后大家都没什么好下场。我觉得这不是谁对谁错的问题，是整个人类根深蒂固的自我中心，是ego（自尊心）太大就会被反噬的结果。像老子说的，要回到最质朴的状态，要不思考，要不作为，就能够快乐，我觉得很有道理。但是让人从思考回到不思考的状态，就像从受过教育回到没受教育的状态，这其实是很难的，是违背人的天性的，这很值得我们去思考。

Strayn：

如果任何机器真的协同进化下去，那么今天对机器人的态度在未来很可能也会带来歧视问题。例如人类对于男人、女人、黑人、白人的划分和歧视，也可能回出现在机器和人的关系当中，也许有一天我们会看到机器上街高呼“消除人机歧视，机器人也要自由，打倒人类暴政”这样的口号。

今天聊得很开心，感谢大家。

校对者致谢

天蓝_Bluky，但少闲人，林南英，Delia，阿耀_Rudy，Rancho，Cloris，阿蕙

加入瓜群

▼点击原文链接查看完整版视频

关键词：