首页 >> 2019年-03期

【专栏】人工智能如何“统治”人类?

作者: 吴冠军 

发布时间: 2019-06-12

  就晚近这些年媒体与社交媒体的公共讨论而言,“人工智能”显然已经成为了定义这个时代的关键词之一。在各种公共讨论中,SpaceX的创始人埃隆·马斯克的“人工智能威胁论”,无疑是极具影响力的一个声音。马斯克把人工智能称之为“人类面对的最大威胁”,并将开发人工智能的努力比作“召唤恶魔”之举。马斯克甚至以耸人听闻的语调在推特上声称:人类的第三次世界大战,将会由人工智能开启。值得追问的是:马斯克的人工智能威胁论是否只是故作惊人之语?

  在我看来,即便马斯克把人工智能比作“恶魔”引来一片嘘声,即便第三次世界大战之“祸首”听上去像极了哗众之音,从哲学角度来看,该论仍是值得认真对待。

  去年辞世的法国哲学家保罗·维利里奥提出“竞速学”(dromology),提议要把速度作为核心研究对象。在维利里奥看来,人类文明的变化,根本上便是速度的变化:技术的演进,所带来的实质上就是速度的提升(人和物移动速度、信息传递速度等等);政治组织的变化(譬如从奴隶制到官僚制),归根结底也正是协作速度的变化。人类文明及其进展,就是一个又一个“竞速革命”的产物。

  维利里奥指出:事情发生的速度,会影响人们对现象的知觉,改变“知觉的后勤”(logistics of perception)。沟通与运输的速度提升,会深层次地带来知觉场的变异,亦即,剧烈地改变头脑环境。高速飙车容易出车祸,最质朴的原因就是驾驶员的知觉后勤补给跟不上他/她加给自己的“激情”速度。速度的提升所造成的最根本的知觉场变异,是严格现象学意义上的“时空压缩”:无论是信息与数据的高速流动,还是人与物的高速移动,都导致时间与空间在知觉层面上遭到压缩(甚至地球被压缩成一个“村落”)。

  知觉场变异,在给人类以及人类文明带来“激情”(从骑马到骑摩托、从磁悬浮到超音速飞机……)的同时,亦带来巨大的挑战。一头麋鹿的“生物算法”能够对以110公里/小时奔向它的猎豹做出反应,然而它的“知觉后勤”完全跟不上狙击枪射出的子弹速度。而较之麋鹿(以及其它邻近物种),人的“生物算法”同样无法跟上这样的速度。于是我们就面临这样一个关键问题:当人类文明不断以加速的方式迎来一个又一个“竞速革命”,人体的“生物算法”却是更新缓慢,应对加速涌来的知觉场变异时越来越捉襟见肘。

  从竞速学角度来看,人工智能所带来的挑战,恰恰正是落在速度提升上:人工智能在“深度学习”上的速度、对大数据的处理速度,完败人的“生物算法”。这轮“竞速革命”的社会性结果,生活在当下的我们已经开始见证到:从购物、获取资讯到择偶、招聘人才,人们正在把越来多的决断权交给人工智能算法。面对人工智能带来的速度,人的“知觉的后勤”已经彻底坍塌;在“阿尔法狗”的学习速度面前,人类顶级棋手已彻底跟不上……当代世界各种事件快速发生、“信息炸弹”不断涌来,人不再确信自身能够有效地应对与处理。在“竞速场域”中,越来越多的人已经把曾经建立在自身“知觉”(“生物算法”)上的信心,让渡给了人工智能。

  2019年3月10日,一架隶属埃塞俄比亚航空的波音737 Max-8在埃塞俄比亚境内坠毁,机上157名乘客和机组人员全部罹难。基于黑匣子数据的初步调查分析显示,此次空难同5个月前印尼狮航空难如出一辙,都源于该型号飞机上新增的“自动防失速系统”:当它综合各种传感器读数而判断飞机处于失速状态,该智能系统便接管飞机;飞行员与该系统争夺飞机控制权,但最终没能获得成功,导致飞机在高速撞击地面时解体。我们看到,这两场空难恰恰就是人把决断权让渡给人工智能(“自动防失速系统”截断了坐在驾驶舱里飞行员的“知觉的后勤”)后所导致的惨剧。

  人/物、信息/数据移动速度的巨幅提升(并且是加速提升),导致在当下人类文明内部,人工智能算法已然快速地、全方位地在淘汰人体的“生物算法”(“智能”)。在这个意义上,“人工智能革命”,实则正是“竞速革命”的最新形态。从竞速学出发,我们可以重新审视马斯克“第三次世界大战”论题:人工智能带来的威胁,并不是它如“恶魔”那样“有意”发动世界战争、毁灭人类文明,而是在当下主权性的民族国家格局下,人工智能所带来的速度变化,正在使它实质性地拿到越来越多的决断权。

  我们完全可以设想如下场景(不少影视作品已然模拟过):国家领导人面对突然而来的警信,一小时后(甚至更短)各主要军事基地将会受到另一国家全面的导弹袭击,而紧急赶到军情室的高官、参谋们全都无法快速判断出,究竟真有袭击还是错误警报、抑或黑客入侵,最后领导人只能倚赖人工智能的判断来决定是否立即让己方武器升空(以免太晚全部被摧毁)……现实的情况也就如物理学家、人工智能专家迈克斯·泰格马克所说:“发展正朝着彻底自主选择和袭击目标的全自动武器前进,把所有人拉出决策圈以取得速度,这在军事上是极具吸引力的”。

  确实,既然人类的判断早已跟不上今天信息与武器的速度,那么彻底让人工智能来直接决断(以省下人作为“虚假决策者”所浪费掉的那些边际时间),更符合“竞速统治”(dromocracy)。维利里奥在四十多年前便宣称人类文明已经进入“竞速统治”,而“竞速统治”的实质便是速度的专政。正是“竞速统治”,使马斯克关于人工智能那耸人听闻的命题具有现实性——如果有第三次世界大战,它很可能是“全自动”发生的。

  在这个意义上,人工智能实已深层参与乃至逐渐主导人类世界的变化。人工智能的算法,使得基于知觉场的“人的视角”彻底被剥夺。当维利里奥说“现今,不再有胜利,所有人都失败”时,他指的还是核导弹的速度,而今天人工智能的速度,则使得这句论断获得更无从辩驳的力量——所有“人”,都正在失败。