009版 书评

警惕“算法神话”的恶果

济南时报 | 2024年11月23日

  □林颐

  

  以色列历史学家、科普作家尤瓦尔·赫拉利曾经以《人类简史:从动物到上帝》一书,掀起世界范围的对于人类共同体命运的思考,近期,赫拉利的又一部新书引起了广泛的关注。

  诚如江晓原所言,如果说《人类简史》是“泛谎言主义”叙事,阐述了“信用”对人类历史的作用,那么尤瓦尔·赫拉利的新作《智人之上》,就是副标题“从石器时代到AI时代的信息网络简史”所指向的,是一部“泛网络主义”叙事。

  翻开书本,在序言部分,赫拉利就犀利地提问:人类究竟配不配得上“智人”的称号?智人为什么会走上自我毁灭的道路?赫拉利说,人类本性中的某些致命缺陷会让人类追求自己根本不知道如何驾驭的力量。比如,我们常说“科技是把双刃剑”,就是因为一旦无法掌控科技的力量,就可能产生我们预料不及的后果。当下信息时代的人工智能,更是如此。

  与《人类简史》一致,《智人之上》同样展现了赫拉利关于宏大认知框架的建构能力。该书的时间跨越依然漫长,赫拉利自如穿梭其间,他认为,相比其他物种,人类的力量来自大批人的合作,有赖于大规模网络的构建,是信息联结了人群,是信息创造出了新的网络,因此,信息——才是历史的真正主角。

  赫拉利回顾了从石器时代到硅时代的信息历史,所有叙事都在突出“信息网络”构建过程中的谎言、错误与幻想,在其中,官僚技术主义尤其导致了各种违背常识、违背人性的恶果。秩序原本是为了建立稳定的社会,让人们过上美好的生活,但官僚技术主义要求人们无条件地服从它的要求,在它面前卑躬屈膝,于是占有信息就成了管制民众的工具。

  在当下的信息时代,计算机接管成为我们的官僚机构,由算法来编写新的神话故事,算法所做的一切,都是为了争夺注意力,都是为了赢,数字官僚监控着我们生活的每个细节,并利用它庞大的力量和潜移默化的网络路径,将人类纳入它的轨道,培养出奴性、虚伪、对他人的不信任感与悲观。算法把一切简化为一件事——参与度。那些负面的信息、极端的言论容易引起争议,吸引很多人参与,经常高于那些让人产生同情心的善的内容,于是,算法筛选的结果就是创造一个新的社会系统,制造信息茧房,鼓励人们沉浸于相互仇恨之中。

  说到算法的影响力,近期还有一本书——孙萍撰写的社会学著作《过渡劳动:平台经济下的外卖骑手》。孙萍用“生成性管理”描述外卖平台通过后台算法不断地与前台送餐劳动互动、协商的依赖性管理模式。骑手送单“上瘾”,而计量规则不断“优化”时间和速度,形成循环,从而使骑手“黏”在平台上,骑手是“液态”的,是“消耗品”,是平台“试错”的工具,骑手试图驯化数据“养系统”,但是,“过渡劳动”状态下的离散的个体,是打不过“鸡贼”的系统的。快递员由此被“困在系统中”。《过渡劳动》可以作为《智人之上》的现实投影,它不是过去的历史,在当下,我们每个人都可能是系统算法所统治的“骑手”。

  人类历史上发生的几次重大事件,比如印刷革命与工业革命都带来了很大冲击,但历史也证明了人类有能力度过危机,那么,人工智能又何惧之有?赫拉利用大量篇幅描述了猎巫行动、战争、极权主义的深重灾难,它们的遗毒远远没有肃清,赫拉利指出,人工智能革命的程度是以往的这些技术变革无法比拟的,人工智能具有自我进化的能力,它有能力脱离人类的掌控,并且可能学会有意识地指引人类走向错误的道路。

  不管我们是否同意赫拉利的悲观预言,这本书给我们提出了一个警告。“联结”是我们人类区别于其他动物的特殊能力,赫拉利给出的解决方案就是:必须让人工智能“超级对齐”人类的世界观、人生观和价值观,确保它的演化和使用符合人类的长远利益。这需要设置人类机构,确保在威胁出现时作出判断并能够加以应对,需要人类群体中大多数人的强大凝聚力,需要我们放下仇恨、消除对立,长路漫漫,携手同行。