人类将如何面对自己的创造物？
http://www.newdu.com 2024/11/25 08:11:30 文汇报 江晓原 参加讨论
关键词：《你好，安怡》 科幻题材 中国近年来的影视作品，从各方面看进步都非常快，包括以往国内较少尝试的科幻题材，也有了不少值得称道的作品。中国的科幻创作曾长期处在“科普纲领”的强烈影响之下，许多人，包括相当多的创作者，习惯于将科幻视为科普的一种形式，而且还是以青少年为读者对象的低幼形式。当国内科幻小说作家整体上在20世纪90年代完成了“和国际接轨”的转变之后，影视作品仍然滞后。直到最近几年，在优秀作品带动下，在相关政策引导下，情况才有了较为明显的改变。影片《流浪地球》的成功，真正开启了中国影视的“科幻元年”，信非虚语。 在告别了“科普纲领”之后，这绝不意味着优秀的科幻作品不会在客观上继续发挥科普的实际作用，科幻作品最值得重视的价值就是它的思想性，而思想性恰恰是国内科幻作品的短板。这块短板亟需有作品开始将它补起来。今年，一部30集科幻剧集《你好，安怡》（以下简称《安怡》）在这方面做了相当成功的尝试。 虽然《安怡》有着一般青春剧的形式，主要是一群青春靓丽的年轻人的故事，用亲子关系、爱情等辅线来帮助推进情节，但编剧看来对人工智能问题做过不少功课，对于当下有关人工智能的几乎所有重要争议和思考，剧中都有所表现或回应，这在以往的国产科幻影视作品中比较少见。 机器人的人权、三定律、图灵测试 首先是机器人——可以平移为克隆人、复制人、人造人……在《安怡》中是“芯机人”——的人权问题。在无数涉及人工智能题材的科幻作品中，机器人的人权问题经常被作为主题或主题之一。《安怡》中那些已经有了自我意识的机器人，希望得到人类的平等对待，它们痛恨人类将自己看成一台机器，特别痛恨人类在挽救一个人类生命时，可以毫不犹豫地牺牲机器人的生命。这其实也就是希望获得人权。在《安怡》中，正面角色都认同了这一点，这可以理解为剧集主题赞成承认机器人的人权——如果它们的自我意识已经具备或觉醒，并且在各方面足够优秀的话。 阿西莫夫在他的小说中提出了著名的“机器人三定律”。国外一些涉及人工智能的早期作品中，还要郑重其事地找机会将这三定律宣示一番。《安怡》中也对“机器人三定律”有所宣示，但安排得比较自然。值得注意的是，电视剧对违反三定律的现象有所思考。剧中出现了受罪犯操控的机器人杀手，而剧中人物明确指出，这样的机器人直接违反三定律中的第一定律“机器人不得伤害人类”。这个情节背后的道理虽然简单，却可以直接推论出：任何军事用途的机器人都是直接违反三定律的。事实上，根据“机器人不得伤害人类”，我们甚至不可以让机器人来对一个死刑犯人执行死刑。死刑必须由人类来执行。 著名的“图灵测试”，是国外一些科幻影视作品中喜欢表现的内容，比如影片《机械姬》（2015），详细展示了反人类的机器人如何通过测试，而《安怡》将这个问题直接转换为机器人和人类的识别问题。在电视剧设想的情节中，机器人通过“图灵测试”早已不是问题，杨小兰长期隐瞒自己的机器人身份，在政府部门担任公务员；文浩康甚至一直在机器人专家程世光身边担任助理和亲信，也没有让程世光发现他其实是机器人。这表明主创并不认为机器人通过“图灵测试”有什么划时代的意义。 奇点和自我意识 在《安怡》中，最重要的悬念是“奇点”。类似科技狂人的机器人专家程世光，以及心怀深深怨念潜伏在程世光身边后来凶相毕露的机器人文浩康，都心心念念要“开启奇点”。但是，“奇点”如何开启？开启之后意味着什么？这两个角色都没有想明白。事实上，主创对这两个问题显然也没有想明白——眼下谁能将这两个问题想明白？ “奇点”之说的流行，源自库兹韦尔写于2005年的畅销书《奇点临近》。书中鼓吹，到2045年，人工智能将超越人类，那时就是“奇点”的到来：“奇点涉及很多方面，其发展速度是近似垂直的指数增长，技术的扩展速度也几乎是无限的。”书中还明确预言，2020年之前人工智能将通过“图灵测试”，现在看来至少是估计得过早了。 库兹韦尔的书虽然总体上有呼唤“奇点”的姿态，但他书中论述给人的印象，“奇点”是一个亦正亦邪的时刻，虽然激动人心，却也充满风险。而《安怡》对待“奇点”的态度也是相当暧昧的：不顾一切要开启“奇点”的，是两个反面人物，剧中的正面人物都在奋不顾身地阻止“奇点”的开启。但“奇点”到底意味着什么呢？根据剧中人物的对白，似乎主要是这一点：有自我意识的机器人大量出现。至于“奇点”如何开启，在此基础上也就不难想象了：程世光和文浩康都打算将能够产生机器人自我意识的程序上传到网上去，让千千万万机器人能够自我升级，这样“奇点”就能够开启。 于是我们就进入《安怡》中最基本的设定之一，即机器人的自我意识问题。这个问题是国外许多作品喜欢浓墨重彩去描写和想象的，比如剧集《西部世界》，几乎整个第一季都在表现机器人自我意识的萌生或觉醒。而《安怡》则采用了简洁明了的方式，一上来就指明了四个有自我意识的机器人，后来又追加了两个潜伏的。这些机器人的自我意识，也不是自动萌发的，而是它们的“父亲”、人工智能专家李建维直接赋予它们的。 其实人类的意识到底是什么，心理学家、脑科学家、科幻作家、人工智能专家都会关心这个问题。一些脑科学家试图将人类意识还原或理解为人脑某种物理运动的产物，这虽然具有哲学上的诱惑性，但迄今仍缺乏实证。 而《安怡》将自我意识想象为某一段神秘的代码或程序，李建维将它写入了姜离、叶坤、曲思家、小马、李遥（他们的大脑是电脑）、杨小兰乃至文浩康的脑中，它们就都是一出场即具有自我意识的机器人。程世光、文浩康为了开启奇点，不顾一切想要获得的也就是这段代码或程序。电视剧的这个想法，有可能得到一部分人工智能专家的赞成，尽管这样神奇的代码或程序迄今在现实世界中尚不存在。 人类打算如何与机器人相处 关于机器人的自我意识，有必要顺便提到今年引进出版的石黑一雄的最新小说《克拉拉与太阳》。因为大多数涉及人工智能的科幻作品，显然都更愿意设想机器人自我意识的萌发或觉醒，因为这种自我意识必将与人类的意识冲突，这样才容易往下编故事，但石黑一雄反其道而行之，塑造了一个彻底“无我”的机器人形象，这也相当罕见。 克拉拉是一个专为陪伴少年而设计的机器人，买下她的家庭对克拉拉也非常尊重，机器人科幻作品中常见的机器人的人权问题，在这个家庭里根本不存在，或者说被石黑一雄简单回避了。克拉拉真正做到了毫不利己专门利人，为了它负责陪伴的乔西，克拉拉可以做任何事情，甚至不惜损害自己的健康。这和《安怡》中文浩康因为李建维要用自己的脑去挽救儿子李遥的生命而生出无穷怨念，造成鲜明对照。 几年后，乔西考上了她这个阶层的孩子应该上的大学，克拉拉的陪伴使命宣告终结。尽管母亲对克拉拉是满心感激的，但克拉拉仍不能免于被废弃的命运，这表明人类没有承认它们的人权。克拉拉在废弃机器人的堆场上，平静地、无怨无悔地接受了自己的命运——为人类付出了自己的一切，被人类用完之后却弃若敝屣。再想一想，人类对于生活中使用的许多器物，不也有这种薄情寡义的态度吗？ 和国外许多电视剧一样，《安怡》的结尾也是开放的：有了机器人的未来世界，既可能鸟语花香，也可能腥风血雨。人类打算如何与机器人相处呢？这取决于我们赋予机器人怎样的自我意识。 （作者系上海交通大学讲席教授江晓原） (责任编辑：admin) |