包括历史上的许多技能革命在内,AlphaGo横空出世的新闻也涌如今小说《知然岛》中。
在柳仓看来,所有的科幻小说都是对付“未来的编年史”,近两年来,以OpenAI为代表的大措辞模型人工智能涌现爆发性增长,“很多我以为属于未来一百年的构想,都正在(或者已经)变成当下的现实,此种情势匆匆使我决定,必须加速完成这部作品,纵然不能揭橥,也至少要奔跑在新天下成形之前,充当一名哪怕只是提前了一秒的预言家,”他在后记里写道。

《知然岛》构建了一个21世纪下半叶的未来天下。
在这个天下中,极度景象肆虐环球,人类社会分裂成三千多处避难所,被称为“三千隔都”。
在灾害的洗礼下,超智能AI应运而生,为人类供应无微不至的做事,同时也悄然改变了人类的生活办法和思维模式。
人们可以在机器上进行事情、游戏、社交,而机器则能够暗藏而妥善地安排人类迁徙移居等统统噜苏事情。

上海知然建筑设计 公共建筑设计

面对未来,幸存的人类分成两派,一派坚信AI只是一种高等算法工具,不可能有自我意识,他们讨厌被AI全面掌握的生活,认为人类会因此损失全部的意义;而另一群人主见积极拥抱AI社会,将罪魁罪魁确定为五千多年来的笔墨,认为笔墨是人类文明的歧途,开始毁灭人类的笔墨。
在守旧与改造的冲突中,人类的命运犹如浮萍一样平常,飘摇不定,与此同时,传说中地球上末了一片不受机器掌握的乐土——知然岛时隐时现。

“我只能安排这样的小说结尾,让AI飞船携带人类的数字意识分布到宇宙空间,同时在地球的知然岛上,保留人类肉体意识的末了火种。
”柳仓说,“或者说,我想暗示的是,人类苛求因果线性而建立的理性天下,在‘并走运算’的AI宇宙中,终极只是汪洋里的一座小岛。

柳仓

澎湃新闻:根据先容,《知然岛》写了七八年,这个过程中AI经历了飞速的发展,你在后记中形容是在“加速完成这部作品”,能否先分享一下创作过程,以及你是如何开始关注人工智能的?

柳仓:我是一个业余的围棋棋手,一贯关注围棋的进展。
2016年,谷歌AlphaGo击败天下围棋冠军李世石,一年往后问世的AlphaZero更是一骑绝尘。
围棋被称作“人类智力的圣杯”,人类棋手被人工智能降服,这是一个主要的历史节点。
当时,我以为0和1的二进制是宇宙中最基本的算法或者笔墨,我开始构思一篇关于“人类笔墨消亡”的小说。
但我意识到,技能不可能无缘无端地高速发展,必须要给AI供应一个契机,于是我在开头加入景象灾害(一个技能突变的“催化剂”),故事情节随后就自然展开。
到2019年年底的时候,小说写了40万字,暂时停下了。
直到ChatGPT出来往后,那种每天都有新事物的猖獗气氛,刺激我把这部小说重新拿出来。
2023年3月,我投入了一场争分夺秒的修正中,要将2019年就完成的40万字稿件,删节到30万字旁边的篇幅。

澎湃新闻:关于“人类笔墨消亡”,小说里也有很多对付笔墨本身的谈论,比如甲骨文和金文等,你对付笔墨的源头的兴趣来自哪里?

柳仓:我一贯对笔墨很有兴趣,我读唐诺《笔墨的故事》时,第一次全面地打仗到笔墨起源的历史。
他在这本书里先容了甲骨文、金文,提到了其他国家的笔墨,还有汉字作为象形笔墨的优缺陷,我读了往后非常有感触。
笔墨是文明的标签,我们人类在地球上已经有几百万年的历史,但如果从笔墨的创造发明来看,人类文明的历史不超过5000年。

澎湃新闻:《知然岛》里人类给AI设定了“第四条定律”,这条定律是出于对人类的保护,但从结果上看未必顺遂人意。
你若何看待技能、AI内部的代价不雅观和它们的善恶?

柳仓:“第四条定律”规定,如果人类碰着危险的话,AI必须不惜舍弃自己,来担保人类的完全;而AI认为,如果要担保人类的安全,必须只管即便回避危险,为人类供应无微不至的做事,后来又决定把人类全部上载到云端,得到“永生”。

机器可能在某些细节上有善恶,我认为我们作为碳基生命,无法去评价硅基生命的善恶伦理。
另一方面,纵然是硅基,也遵照二进制的逻辑,而这个逻辑依据的是人类的设定,它会随着你的设定做到极致。
AI的造物主正好是我们人类自己,是我们所定下的规则,启动了它的进化程序。

AI会呈现自己的意识吗?我在书里写了“新旧之争”:老一派坚信AI只是一种高等算法工具,不可能有自我意识,而新一派认为AI有自己的意识,但是它逃脱不了最高的原则。
不管用什么手段,它会实现你人类所哀求的目标,这是一个荒谬的悖论。

澎湃新闻:小说里可以通过上载云端来得到自己的“永生”或是复活家人,你是怎么看这种选择的?

柳仓:我以为如果是在现实天下永生的话,会毁坏人对生命的敬仰——由于你的韶光是无限的,无论你做什么,到末了都可以挽回,但如果有一个终点,你会感到紧迫感,所有的事都会变得故意义。
而关于云端上的永生,我在小说里有一段很长的描述:“机器复活亡者,本是毫无意义的事情。
由于一方面,你无论如何也无法将它规复到亡者本来的面孔,纵然你能做到,这一团数据代码也究竟不是亡者本人,由于意识、感情、回顾都须要血肉之躯来承担。
而另一方面,大概是更主要的方面,如果亡者复活,在虚拟天下里永生,而我们却自有一具肉身躺在真实天下里,终将一个个去世在黑屋子里,这实在显得自相抵牾,充满讽刺。

澎湃新闻:作为创作者,你怎么看创作和AI的关系?

柳仓:原来我们以为AI会代替那些低级的劳动力,但是现在,那些须要耐心细致的劳动反而是AI暂时替代不了的,比如护士。
而像创意类的事情,按照AI现在的发展,可能十年内会碰着很大的寻衅。
我更方向于AI和人类合营来完成事情,由于到末了还是须要人与人之间的互换。
我以为AI会是一个助手,就像现在国际象棋中的“半人马”比赛,人可以在AI赞助下和同样有AI赞助的选手比赛。

澎湃新闻:《知然岛》是科幻小说,也有很多关于哲学的谈论。
有哪些作家或作品对你产生过影响?

柳仓:我是一个文学爱好者,尤其热爱欧美文学,平时阅读的都是福克纳、纳博科夫、奈保尔、马尔克斯、博尔赫斯、卡夫卡、卡尔维诺、托拉尔丘克、门罗、科塔萨尔等等。
有些经典作品是经得起反复阅读的,譬如纳博科夫的《洛丽塔》或者里尔克的《布里格手记》。

另一块深度阅读的是科普与哲学作品。
麦克卢汉的《理解媒介》、罗韦力的《现实并不似你所见》、梅拉妮的《繁芜》、布莱恩的《技能的实质》、KK的《科技要什么》,以及本雅明、韩炳哲、丹尼特、平克等人的著作,他们都让我重新思考人类在这个天下中的位置。

至于科幻作品,我读得相对少一些,影象中除了刘慈欣、德特姜、韩松的几部作品,彷佛没有什么太多印象。
科幻小说实在是未来的寓言,有强烈的警示浸染。
它对社会的主要性,该当和超现实艺术一样,就像宇宙间的一壁镜子,能帮助人类避免自恋情结,认清我们人类不过是一个宇宙发展的自然过程,就像其他事物一样,有涌现,就会有消亡。