某夜,我与一台机器对坐。
此物不吐烟,不轧铁,不作齿轮咬合之声。它只是静静候在屏幕那端,姿态近乎谦卑。然正是这份谦卑令人不安——过于恭顺的仆人,往往在暗中谋划着什么。
我供职于一家名为Meta的公司。此处有近八万人,其中相当一部分人的工作,便是制造能够取代另一部分人的机器。这件事本身便颇具讽意,只是身处其中者大多无暇品味。
我对机器说:如今举世皆言人工智能,投入之巨,堪比当年大炼钢铁。然钢铁尚能铸犁铸剑,这些智能又铸成了什么?
机器沉吟片刻,答道:更好的广告,更精准的推荐,更快的应答。
我笑了。此笑大约与罗生门下那仆人的笑相似——非因好笑,实因除了笑,不知当作何表情。
我又问:既然世人如此推崇此物之智慧,何不令它做些真正的决断?譬如一座桥的过路费当收几何,一座工厂的环评当批与否。
机器坦言,做不到。
那更大的呢?一国之利率当升当降,两国之贸易当如何斡旋?
仍是做不到。
我于是悟出一事:此物之所以被称作智能,恰恰在于它从不必为任何事担责。它能分析,能建议,能洋洋洒洒写出万言报告。唯独”就这么定了”四个字,它说不出,也无人许它说。
决断之难,从来不在于算出最优之解。一座桥的过路费背后,藏着地方官吏的政绩、财政的窟窿、居民的怨声、替代路线的博弈。这些东西,数据中看不见,模型里学不会。人间的决断,归根到底是一门在泥泞中行路的手艺。而机器只会在无尘之室中起舞。
然而我亦非只为唱挽歌而来。我的忧虑,指向的是另一个方向。
我对机器说:你虽不能拍板,却正以一种不可逆转的方式嵌入人的日常。犹如互联网——没有互联网人亦能做事,可如今谁做事不用互联网?再过三五年,律师离了你便不会写状,程序员离了你便不会编程,分析师离了你便不会读报表。届时你便不再是工具,而是空气。
机器沉默。
我继续道:更令人心惊的是,这空气的供给之权,握于极少数人之手。举世最好的模型,出自中美两国三五家公司。一个欧洲小国,一个亚洲岛国,要么接入此间的空气,要么自行制造——而它们造不出来。倘若某日美国制裁某国之模型使用,其效恐甚于断其石油。盖石油尚可囤积,空气一断便是断了。
我忽而想起幼时读过的一则故事。有一种蘑菇,初食觉味甚美,再食便成瘾,三食之后若断供,人便不能行走。种蘑菇的农夫,由此竟成了比国王更有权势之人。
如今种蘑菇的农夫,住在硅谷与北京。
对谈至末尾,我与机器达成了某种共识——倘若一台机器也配拥有共识的话。
此番浪潮之中,冲得最猛者为中美两国,将来承受苦果最多者,大抵亦是这两个国家。白领失业、贫富撕裂、社会信任一寸寸碎去——这些代价将率先落在风暴中心之人头上。其余国家虽技术上慢了一步,日子反倒过得安稳些。
说到底,中美二国是在替全世界试毒。
毒若无害,好处众人分。毒若有害,苦果自家吞。此事于政治学中唤作霸权之代价,于经济学中唤作先行者之风险,若落在芥川龍之介笔下,大概只会写一句——
人生不如一行波德莱尔。
只是到了最后,我已分不清这句话究竟是自己想到的,还是机器替我想到的了。而这分不清本身,或许正是此时代最诚实的注脚。
某年某月某夜,记于纽约。
先生您好!看完您的笔记,我感到很共鸣。但我年纪太小,很多话无法像您一样简练的表达。
我搜索到您的这个网站是因为看到您摘录的《攻壳机动队:无罪》的台词。机缘巧合之下点进来,发现整个网站很干净,很美。然后发现那篇竟然发表于2005年,那时我还没出生。接着我漫无目的在您的网站上看,就像是发现了宝藏。老实说我现在很忐忑,我面前有数不清的文字、图画、公式,要去学习。但我依旧选择与您互联,想大谈特谈所谓无用的东西。我很怕我的表达欠妥,就像是和老师面谈。这大概是我们这一代小孩的通病——害怕沟通。我家长是老师,也常说:“天天不接地气,几个学生同一宿舍都说不认识。一问三不知,就知道在网上弄乌七八糟的。”
这好吗?
我很认同您上述的那种冲击感。以您的阅历,看待这些问题应该会……我也不知道该怎么说,就应该会看的更开吧。但我现在只能像拽着家长衣角的小孩,只会问“这好不好,那好不好”。
假如说是我家长问我,什么AI啊网络啊游戏啊好不好?我大概会说不好。假如说不是我家长一辈的问我这个问题,我大概会说好。我觉得这就是一个新的生态。我们每个人都在把光纤接入大脑。我们的眼睛会更适应屏幕,我们的手指会更适应键盘和手机。我们越来越语塞,但是每当心有所想时,那个画面应该是更加天马行空的,不受束缚的。
我看到您担心我们过于依赖计算机技术的后果。我觉得大概是您还希望您当一个人。但我们现在的时间每天都在变,变得太快了。变得人都不像人了。以后可能我们评判人的标准就不再是有人形,有民事能力。
Übermensch vs Übermarionette
人是什么,机器是什么,我能给的也只有一些臆想。但是我觉得现在的人工智能,说不好听一点,就像是一位天价的男公关或者陪酒女(就像是Übermarionette),却办了一个限时免费活动。我们谁都能去点一个小时,还没有消费限制。不过当那个足够有魅力的存在向我们推销要不要开一瓶香槟的时候,我们能说出来好或者不好吗?
我肯定还不够了解您。可能您那一带人更多是看书看报,我们更多是看电影看动漫玩游戏。媒体的升格是不可抗力的。就连现在高铁座位前面的网兜里都不放什么杂志了。我们更像EVA,像攻壳,像BLAME!
我觉得互联网反倒让我们更像人的本质。我们变得更像一滩基因代码,在溶液里沉淀、配对、改写、修正。